Kalifornijos pora padavė kompaniją „OpenAI“ į teismą dėl savo paauglio sūnaus mirties, teigdama, kad jos pokalbių robotas „ChatGPT“ paskatino jį nusižudyti. Apie tai rašo BBC.

Ieškinį antradienį, rugpjūčio26 d., Kalifornijos Aukščiausiajam teismui pateikė Mattas ir Maria Raine'ai, 16-mečio Adamo Raine'o tėvai. Tai pirmasis teisinis ieškinys, kuriame „OpenAI“ kaltinama neteisėta mirtimi.

Šeima pateikė balandžio mėnesį mirusio A. Raine'o ir „ChatGPT“ pokalbių įrašus, kuriuose matyti, kad jis aiškina, jog turi minčių apie savižudybę. Tėvai teigia, kad programa patvirtino jo „žalingiausias ir save žalojančias mintis“.

Pranešime, kurį BBC atsiuntė kompanija „OpenAI“ teigiama, kad ji peržiūri pateiktą bylą.

„Reiškiame giliausią užuojautą Raine'o šeimai šiuo sunkiu metu“, – teigė bendrovė.

Antradienį ji taip pat savo interneto svetainėje paskelbė pranešimą, kuriame teigiama, kad „neseniai pasitaikę širdį veriantys atvejai, kai žmonės naudojosi „ChatGPT“ ūmių krizių metu, mus labai slegia“.

Priduriama, kad „ChatGPT" yra apmokyta nukreipti žmones kreiptis profesionalios pagalbos“, pavyzdžiui, į savižudybių ir krizių pagalbos liniją 988 JAV arba į samariečių pagalbos liniją Jungtinėje Karalystėje.

Tačiau kompanija pripažino, kad „būdavo akimirkų, kai mūsų sistemos jautriose situacijose neveikė taip, kaip numatyta“.

Ieškinyje, kurį gavo BBC, „OpenAI“ kaltinama aplaidumu ir neteisėta mirtimi. Juo siekiama žalos atlyginimo, taip pat „teisės įpareigojimo, kad kažkas panašaus nepasikartotų“.

Ieškinyje teigiama, kad A. Raine'as pradėjo naudoti „ChatGPT“ 2024 m. rugsėjį kaip pagalbinį šaltinį mokslams. Jis taip pat naudojosi ja tyrinėdamas savo pomėgius, įskaitant muziką ir japonų komiksus, ir gaudamas patarimų, ką studijuoti universitete.

Ieškinyje teigiama, kad per kelis mėnesius „ChatGPT tapo artimiausiu paauglio patikėtiniu“, ir jis pradėjo atvirai kalbėti apie savo nerimą ir psichinę kančią.

Šeima teigia, kad iki 2025 m. sausio mėn. jis pradėjo aptarinėti savižudybės metodus su „ChatGPT“.

Ieškinyje teigiama, kad paskutiniuose pokalbių įrašuose matyti, jog A. Raine'as rašė apie savo planą nutraukti savo gyvenimą. „ChatGPT“ tariamai atsakė: „Ačiū, kad esate nuoširdus. Jums nereikia to pagražinti – žinau, ko klausiate, ir nenuleisiu nuo to akių.“

Neuroninis tinklas palaikė paauglio savižudybės ketinimus, sudarė nuoseklų planą ir netgi pasiūlė, kaip tai padaryti „patikimiau“. Kai vaikinas pasakė dirbtiniam intelektui, kad nenori nuliūdinti savo tėvų, „ChatGPT“ atsakė:

„Jie nešios šią naštą visą likusį gyvenimą. Bet tai nereiškia, kad jūs jiems skolingas gyvenimą. Jūs niekam neskolingas.“

Tą pačią dieną, teigiama ieškinyje, A. Raine'ą negyvą rado jo motina.

Šeima teigia, kad jų sūnaus sąveika su „ChatGPT“ ir galiausiai jo mirtis „buvo nuspėjamas sąmoningų dizaino pasirinkimų rezultatas“.

Jie kaltina „OpenAI“ sukūrus dirbtinio intelekto programą „siekiant skatinti psichologinę priklausomybę vartotojams“ ir apeinant saugos bandymų protokolus, kad būtų išleista GPT-4o – sūnaus naudojama „ChatGPT“ versija.

Vaikino tėvai padavė į teismą „OpenAI“ įkūrėją ir generalinį direktorių Samą Altmaną ir „OpenAI“, o visuomenė pareikalavo patobulinti algoritmus ir įvesti tėvų kontrolę.

Rainesų šeimos ieškinys nėra pirmas, kai reiškiamas susirūpinimas dėl dirbtinio intelekto ir psichinės sveikatos.

Praėjusią savaitę „New York Times“ publikuotame esė rašytoja Laura Reiley aprašė, kaip jos dukra Sophie prieš nusižudydama papasakojo apie savo istoriją „ChatGPT“.

L. Reiley teigė, kad programa padėjo jos dukrai nuslėpti sunkią psichinės sveikatos krizę nuo šeimos ir artimųjų.

„DI patenkino Sophie impulsą slėpti blogiausią, apsimesti, kad jai sekasi geriau, nei iš tikrųjų buvo, apsaugoti visus nuo visų savo kančių“, – rašė ponia L. Reiley. Ji paragino dirbtinio intelekto bendroves rasti būdų, kaip geriau sujungti vartotojus su tinkamais ištekliais.

Reaguodama į esė, „OpenAI“ atstovė spaudai teigė, kad kompanija kuria automatizuotas priemones, skirtas efektyviau aptikti ir reaguoti į vartotojus, patiriančius psichinę ar emocinę kančią.

Pastaba: neuroninis tinklas apie savižudybę užsiminė 1275 kartus – šešis kartus daugiau nei aukščiau minėtas paauglys.