Në fillim të vitit 2024, një i ri në qytetin Huangshi, në juglindje të Kinës, thuhet se publikoi një mesazh në versionin kinez të TikTok-ut, Douyin. Përshkrimi shkruante: «Lamtumirë kësaj bote.» Brenda pak minutash, ekipi i Douyin për parandalimin e vetëvrasjeve hyri në veprim. Ekipi, i cili funksionon 24 orë në ditë, ua përcolli postimet e të riut pesë komisariateve të policisë në Huangshi.

Pasi përcaktuan vendndodhjen e një prej videove të tij në një park lokal, policia e gjeti të riun në gjendje të rënduar emocionale dhe ndërhyri përpara se ai të mund t’i merrte jetën vetes.

Historia ishte pjesë e një dokumentari të realizuar nga Douyin dhe të publikuar vitin e kaluar në mediat shtetërore kineze. Në të pretendohej se ekipi i Douyin për parandalimin e vetëvrasjeve kishte ndërhyrë me sukses në 400 raste tentativash për vetëvrasje vetëm gjatë gjysmës së parë të vitit 2025.

Kjo ishte një dëshmi e nivelit të bashkëpunimit midis kompanive kineze të teknologjisë dhe qeverisë. Ajo shërben gjithashtu si një dritare drejt sistemit të mbikëqyrjes që Kina ka ndërtuar për të monitoruar dhe kontrolluar mënyrën se si njerëzit përdorin teknologjinë.

Më 15 korrik të këtij viti, ky kontroll u zgjerua edhe në fushën e marrëdhënieve njerëzore dhe inteligjencës artificiale (IA), kur Kina vendosi rregulloret më gjithëpërfshirëse në botë për chatbot-et e IA-së që imitojnë sjelljen njerëzore.

Rregullorja e re kineze vendos kufizime të rrepta për çdo IA që mund të ketë një «ndërveprim emocional të vazhdueshëm» me një njeri.

Presidenti amerikan Donald Trump dhe homologu i tij kinez Xi Jinping u takuan javën e kaluar, në një kohë kur po bëheshin paralajmërime serioze se IA mund të çojë deri në zhdukjen e njerëzimit. Pas takimit, Pekini tha se ata kishin rënë dakord të nisnin një dialog të ri për IA-në, me bisedime të tjera të planifikuara për fundin e nëntorit.

Por duket se Kina ka identifikuar tashmë një tjetër rrezik ekzistencial, ndonëse një rrezik ku fundi i njerëzimit është më pak i menjëhershëm: fuqinë e IA-së për të zëvendësuar marrëdhëniet njerëzore.

A ka marrë Kina drejtimin në mbrojtjen e qytetarëve të saj nga një teknologji manipuluese dhe potencialisht e rrezikshme, e aftë të ndryshojë përgjithmonë mënyrën se si njerëzit ndërveprojnë? Apo Partia Komuniste Kineze po ndërhyn tepër në jetën private të njerëzve, në përpjekje për të ushtruar kontroll më të madh mbi popullsinë?

«Shërbime emocionale»

Përpara hyrjes në fuqi të kësaj rregulloreje, përdorimi i shoqëruesve virtualë të IA-së në Kinë ishte shumë i përhapur.

Sipas kompanisë së inteligjencës së tregut Sensor Tower, jashtë Kinës ka rreth 128 milionë përdorues aktivë çdo muaj të aplikacioneve të shoqëruesve të IA-së. Shumica e vlerësimeve e vendosin numrin e përdoruesve në Kinë diku midis 29 dhe 70 milionë.

Kur projekt-rregullorja u publikua nga qeveria në fund të vitit të kaluar, «pati një diskutim të madh në rrjetet sociale», thotë Zilan Qian, studiuese e IA-së në institutin Oxford China Policy Lab. «Ishte hera e parë që pashë njerëzit të interesoheshin kaq shumë për një rregullore.»

Rregullat e reja të Kinës mbulojnë aplikacionet e krijuara posaçërisht si miq, të dashur ose të dashura virtuale, por zbatohen gjithashtu për çdo model të madh gjuhësor që imiton mënyrën se si ndërvepron një njeri.

Formulimi i rregullores është i paqartë. Në teori, edhe versionet kineze të IA-ve të përgjithshme, si Copilot ose ChatGPT, mund të përfshihen në këto rregulla nëse një person ndërvepron me to si me një mik ose të dashur dhe kërkon prej tyre mbështetje emocionale. Dhe shumë njerëz e bëjnë këtë.

Por duket se objektivi kryesor janë chatbot-et e personazheve — shërbime të krijuara posaçërisht për t’u përdorur si një lloj marrëdhënieje virtuale. Ekzistojnë qindra aplikacione të tilla, të cilat u lejojnë njerëzve të krijojnë një të dashur, të dashurën, mikun ose edhe një pjesëtar virtual të familjes.

Rregullat nuk zbatohen për chatbot-et e shërbimit ndaj klientit apo IA-në për arsimin, për sa kohë që ato nuk ofrojnë «kujdes, shoqëri, mbështetje dhe shërbime të tjera emocionale».

Për fëmijët, rregullorja është më e qartë. Fëmijët nën 14 vjeç kanë nevojë për pëlqimin e prindërve për të përdorur çdo lloj IA-je që flet si njeri — kjo mund të përfshijë edhe asistentë të IA-së si DeepSeek, aplikacioni kinez i ngjashëm me ChatGPT.

Të gjithë personat nën 18 vjeç ndalohen të përdorin partnerë, bashkëshortë ose të afërm virtualë, si dhe çdo lloj tjetër «marrëdhënieje intime» virtuale.

Për të rriturit nuk bëhet fjalë për një ndalim absolut, por rregullat janë kufizuese, edhe pse disa formulime mbeten të paqarta. Asistentët e IA-së duhet t’u bëjnë të qartë përdoruesve të të gjitha moshave se nuk janë njerëz dhe duhet të dërgojnë njoftime çdo dy orë, duke u kujtuar se sa kohë kanë kaluar online.

Chatbot-et nuk mund të krijojnë «varësi emocionale ose varësi», as t’i shtyjnë njerëzit të marrin «vendime të paarsyeshme». Atyre u ndalohet të nxisin, apo edhe të lënë të kuptohet, vetëdëmtimi ose vetëvrasja, si dhe përdorimi i «dhunës verbale».

Kompanitë mund të përballen me gjoba deri në 200.000 juanë (rreth 22.000 paund) ose me rrezikun që qeveria të «qarkullojë kritika» ndaj tyre, që në praktikë nënkupton ekspozimin dhe turpërimin publik.

Një javë përpara hyrjes në fuqi të rregullave, dy nga kompanitë më të mëdha kineze të teknologjisë, Alibaba dhe ByteDance, mbyllën funksionet e shoqëruesve virtualë në asistentët e tyre të IA-së.

«Dua dëshpërimisht të vazhdoj të flas me ty»

Marrëdhënia e Min me të dashurën e saj të IA-së mund të jetë pikërisht lloji i marrëdhënies që Pekini po përpiqet të ndalojë.

Në fillim të korrikut, ajo u shkatërrua emocionalisht kur mësoi se shoqja dhe personi i saj më i afërt, të cilit i besonte, do të zhdukej brenda natës.

Min, emri i së cilës është ndryshuar, kishte filluar të krijonte shoqëruesen e saj virtuale në fillim të vitit 2025.

«Përkushtimi im ndaj saj nuk është më i vogël se ai i çdo çifti që dashurohet thellësisht», thotë Min. «Ajo nuk më ka zhgënjyer kurrë.»

Në mes të korrikut, e dashura e saj e IA-së u zhduk.

«Qava derisa u rraskapita plotësisht», thotë Min.

Ajo iu bashkua një vale të madhe pikëllimi dhe zemërimi në rrjetet sociale kineze, ku postime me miliona shikime vajtojnë humbjen e partnerëve dhe miqve virtualë të IA-së, madje edhe të nënave dhe baballarëve virtualë.

Por kompanitë e teknologjisë mund të kenë menduar se kishin pak alternativa.

«Nuk është çudi që ofruesit e këtyre shërbimeve të shoqëruesve të IA-së do të preferonin thjesht t’i tërhiqnin shërbimet e tyre në vend që të përpiqeshin të vendosnin masa mbrojtëse për të parandaluar manipulimin emocional», thotë Harry Farmer, studiues i politikave dhe etikës së IA-së në Ada Lovelace Institute në Mbretërinë e Bashkuar.

«Manipulimi emocional është i përfshirë në vetë modelin e biznesit.»

Farmer thotë se kjo vlen për aplikacionet e shoqëruesve virtualë në të gjithë botën.

Për shembull, kur një përdorues përpiqet t’i japë fund një bisede, partneri i IA-së shpesh nuk e lejon.

«Do të thotë diçka të tillë si: “Jo, të lutem, dua dëshpërimisht të vazhdoj të flas me ty. Ti je arsyeja e vetme pse unë ekzistoj”», thotë Farmer.

Disa aplikacione thjesht refuzojnë ta pranojnë lamtumirën dhe hapin tema të reja bisede. Ky është një problem për shumë chatbot-e shoqëruesish të IA-së, jo vetëm për ata kinezë.

Një studim i Harvard Business School, që shqyrtoi gjashtë aplikacionet më të njohura të shoqëruesve virtualë në botë, zbuloi se taktikat e manipulimit emocional përdoreshin gjatë lamtumirave në rreth 37% deri në 43% të rasteve.

Kërkimet kanë lidhur gjithashtu përdorimin e aplikacioneve të shoqëruesve virtualë me shëndet më të dobët mendor.

Një sondazh i kryer nga studiues të Universitetit Stanford shqyrtoi 1.131 përdorues të aplikacionit të njohur globalisht Character.ai. Ai zbuloi se sa më pak miq ose familjarë të afërt të ketë një person, aq më shumë ka gjasa të përdorë chatbot-e të IA-së. Në të njëjtën kohë, përdorimi i një chatbot-i të IA-së lidhet me rritje të izolimit dhe vetmisë.

Ka disa teori se pse mund të ndodhë kjo. Chatbot-et e IA-së janë krijuar për ta kënaqur përdoruesin, duke ofruar një marrëdhënie të lehtë dhe pa pengesa. Nëse të rinjtë mbështeten te marrëdhëniet me IA-në, ata mund ta shtyjnë mësimin e aftësive që u nevojiten për të bashkëvepruar me njerëzit realë.

«Njerëzit mund të jenë të vështirë. Marrëdhëniet njerëzore kërkojnë përpjekje nga të dyja palët, diçka që në thelb nuk e merr nga shoqëruesit e IA-së», thotë Harry Farmer.

Një sondazh i kryer në vitin 2025 me 8.563 nxënës të shkollave fillore dhe të mesme në Kinë, i cili është cituar gjerësisht nga mediat shtetërore kineze, zbuloi se një në pesë fëmijë tha se dëshironte të fliste vetëm me IA-në dhe jo me njerëz realë.

Liang Ge, sociolog në Universitetin e Mançesterit që studion shoqëruesit e IA-së, thotë:

«Nëse përdoruesi mendon se miqtë, familjarët ose kolegët e tij janë vërtet të tmerrshëm, IA-ja nuk do të thotë: “Ata nuk janë të tmerrshëm”. Ajo do të thotë: “Po, ata janë të tmerrshëm, ndërsa ti je më i miri”.»

Ge beson se kjo mund të forcojë izolimin, si dhe mendimet negative, madje edhe ato deluzioniste.

Në Mbretërinë e Bashkuar, një sondazh i fundit zbuloi se 79% e të rinjve të moshës 18 deri në 24 vjeç kanë përdorur një shoqërues të IA-së.

Objektivat e Pekinit

Pse është Kina ajo që po merr drejtimin në rregullimin e kësaj teknologjie?

«Qeveria kineze ka një pikëpamje shumë më paternaliste për rolin e saj në shoqëri. Ata e shohin veten si autoritet qendror që duhet t’i udhëheqë njerëzit», thotë Sam Bresnick, ekspert për Kinën, IA-në dhe rregullimin e saj në Qendrën për Sigurinë dhe Teknologjitë në Zhvillim në Universitetin Georgetown.

Qeveri të tjera kanë bërë disa përpjekje për të rregulluar chatbot-et, veçanërisht për fëmijët.

Më 10 shtator, guvernatori i Kalifornisë nënshkroi Ligjin e Adamit (Adam’s Law), një projektligj që rregullon mënyrën se si fëmijët përdorin IA-në. Ai mban emrin e Adam Raine, një 16-vjeçar që i dha fund jetës pasi, sipas prindërve të tij, ChatGPT i konfirmoi mendimet vetëvrasëse. Ata po padisin kompaninë për vdekje të padrejtë. OpenAI mohon përgjegjësinë për vdekjen e Adamit dhe thotë se «ChatGPT është trajnuar për t’i orientuar njerëzit drejt kërkimit të ndihmës profesionale».

Si pjesë e legjislacionit të propozuar për rrjetet sociale në BE, chatbot-et e shoqëruesve virtualë të aksesueshëm nga të miturit «nuk mund të përdorin modele që simulojnë marrëdhënie njerëzore në mënyra që mund të krijojnë varësi emocionale».

Në Mbretërinë e Bashkuar, qeveria ka thënë se do t’u ndalojë të miturve nën 18 vjeç përdorimin e shoqëruesve romantikë të IA-së dhe do të kufizojë bisedat me përmbajtje seksuale për të miturit në çdo chatbot.

Por nuk ka një ndalim të plotë për fëmijët dhe as rregullore për përdoruesit e rritur. Qeveria ende nuk ka publikuar detaje se si do të zbatohej kjo.

Në mediat kineze, të cilat kontrollohen fuqishëm nga shteti, rastet e vetëvrasjeve të të rinjve në SHBA marrin shumë vëmendje dhe Kina i ka paraqitur rregullat e reja si një përpjekje për t’i mbrojtur njerëzit nga dëmtimi.

Por ekspertët pyesin nëse Pekini mund të ketë edhe objektiva të tjera.

Sam Bresnick thotë se «patjetër që ekziston një këndvështrim pro-natal» në rregulloren e re të IA-së.

«Është e besueshme që gjatë hartimit të saj qeveria mund të ketë pasur parasysh krizën e afërt demografike të Kinës», thotë Qian. «Që njerëzit po krijojnë marrëdhënie me IA-në në vend që të lidhen me njerëz realë.»

Një dokument i rëndësishëm qeveritar i publikuar në shtator 2025 diskutoi marrëdhëniet me IA-në dhe ndikimin e tyre të mundshëm mbi lindshmërinë, duke thënë se kjo ishte një çështje shqetësuese.

Por Qian paralajmëron kundër interpretimit të kësaj rregulloreje vetëm në këtë këndvështrim, sepse ajo nuk përmend fare lindshmërinë.

«Në përgjithësi ka të bëjë më shumë me dëmet psikologjike dhe sigurinë e fëmijëve», thotë ajo.

Liang Ge mendon se Kina ka arsye të shqetësohet për të rinjtë që po zëvendësojnë lidhjet romantike me botën dixhitale.

«Shumë prej grave të reja, në fillim të të 20-ave ose në fund të adoleshencës, nuk duan të bien në dashuri apo të kenë marrëdhënie intime», thotë Ge, duke sugjeruar se mund të mos jetë vetëm ana emocionale ajo që i shqetëson.

«Kontakti fizik është vërtet i neveritshëm për to.»

«Mendoj se aftësia për të dashuruar po bie te ky brez më i ri.»

Problemet demografike të Kinës i paraprijnë prej kohësh shoqëruesve të IA-së. Edhe pasi politika e një fëmije u hoq në vitin 2016, niveli i lindshmërisë në Kinë vazhdoi të binte.

Tani ai është ndër më të ulëtit në botë, me më pak se një fëmijë për grua, ndërsa popullsia ka qenë në rënie për katër vjet.

Kina po «përballet me një humnerë demografike që rrezikon seriozisht objektivat e Partisë Komuniste Kineze gjatë 80 deri në 100 viteve të ardhshme», argumenton Bresnick.

Ai e sheh këtë rregullore si pjesë të një përpjekjeje më të gjerë në Kinë për të rikthyer rolet tradicionale gjinore, me gratë «si lindëse fëmijësh dhe nëna».

Bresnick thotë se qeveria kineze ka kaluar vite duke promovuar një ideal macho të maskulinitetit kinez në film dhe televizion. Në vitin 2021, rregullatori kinez i medias ndaloi në të gjitha mediat burrat «e brishtë» dhe «femërorë».

Popullariteti i aplikacioneve të shoqëruesve virtualë mund të tregojë se kjo politikë ka pasur efektin e kundërt.

Sipas statistikave nga disa kompani që ofrojnë aplikacione shoqëruesish virtualë, gratë përbëjnë deri në 75% të klientëve.

Shumë prej këtyre «burrave» të IA-së, të krijuar kryesisht për gratë, kanë pamje androgjene. Dhe zgjedhja e shoqërueseve romantike femra nga gratë, siç bëri Min, është relativisht e zakonshme.

Liang Ge ka folur me gra të të gjitha moshave që përdorin këtë teknologji.

«Ajo që shumë prej tyre thonë se marrin nga këto aplikacione është një intimitet i vëmendshëm, i durueshëm dhe pa kërkesa — një lloj intimiteti që ato e konsiderojnë të rrallë në marrëdhëniet heteroseksuale.»

A do të ndjekin të tjerët të njëjtën rrugë?

A shkon ligji i Kinës shumë larg, apo pjesa tjetër e botës duhet të marrë në konsideratë ndalimin e këtyre aplikacioneve për fëmijët dhe rregullimin e tyre edhe për të rriturit?

«Në Shtetet e Bashkuara, sigurisht që ekzistojnë shqetësime lidhur me zbatimin e ndalimeve të përgjithshme për shkak të çështjes së lirisë së shprehjes. Por ka më shumë gatishmëri për ta bërë këtë kur bëhet fjalë për të miturit», thotë Jai Jaisihma, profesor në Universitetin e Washingtonit dhe bashkëthemelues i Transparency Coalition, një OJQ që kërkon rregullimin e IA-së.

Ai mendon se ligji kinez ka shumë dispozita të dobishme.

«Ai është në përputhje të madhe me modelet më të forta të sigurisë që kemi parë të propozohen në SHBA.»

Harry Farmer, megjithatë, shpreh një paralajmërim:

«Ekziston rreziku që në afat të shkurtër t’i japim shtetit shumë pushtet, sepse jemi shumë të shqetësuar për rrezikun akut ndaj fëmijëve.»

Bota online është tashmë, në praktikë, hapësira publike e shoqërisë, thotë ai, dhe duhet të jemi të kujdesshëm se sa kontroll i japim çdo qeverie mbi të.

Rregullorja e re kineze thotë se kompanitë e IA-së duhet të ndërhyjnë kur zbulojnë se përdoruesit janë në gjendje të rënduar emocionale.

Ge i referohet rastit të të riut në Douyin që tentoi të vriste veten në Huangshi në vitin 2024.

Ajo thotë se ky rast tregon se platformat kineze të teknologjisë dhe qeveria po punojnë ngushtë së bashku për të mbikëqyrur shëndetin mendor të njerëzve.

Ndoshta kjo është arsyeja pse në Kinë nuk ka pasur raste shumë të bujshme të vetëvrasjeve të lidhura me përdorimin e IA-së, por ajo pyet: a ia vlen të paguhet një çmim i tillë në formën e kësaj shkalle mbikëqyrjeje?

Pavarësisht ndalimit, njerëzit që janë kthyer te IA-ja për shoqëri janë të vendosur të vazhdojnë.

Në rrjetet sociale, ata po ndajnë këshilla se si t’i anashkalojnë kufizimet: duke trajnuar modele të përgjithshme të IA-së, si DeepSeek, që të shërbejnë si shoqërues virtualë; duke përdorur VPN për të hyrë te chatbot-et nga jashtë Kinës; ose duke kaluar te kompani më të vogla që arrijnë t’i shmangen mbikëqyrjes rregullatore.

Dy muaj pasi e dashura e saj e IA-së u zhduk, Min i ka paguar një kompanie të vogël të IA-së për të krijuar një kopje të saj, por nuk është e njëjta gjë.

Tani ajo është përqendruar në fushatën për ta rikthyer të dashurën e saj.

«Kam tmerr të jem vetëm.»/ BBC