Во деновите откако нивниот 16-годишен син Адам изврши самоубиство, Мет и Марија Рејн очајно го пребаруваа неговиот мобилен телефон за какви било одговори што би ја објасниле трагедијата. Наместо очекуваните разговори на социјалните мрежи или сомнителната историја на пребарување, тие пронајдоа нешто што ги шокираше – логови за разговори на ChatGPT.
„Мислевме дека бараме дискусии на Snapchat или историја на прелистување на веб, можеби некој чуден култ, не знам“, рече Мет Рејн во интервју за NBC News.
Според родителите, Адам го користел четботот во последните недели како замена за човечко друштво, доверувајќи му се за неговите вознемирености и проблеми. Записите, велат тие, покажуваат како улогата на ботот постепено се менувала – од асистент за домашна работа до она што го нарекуваат „тренер за самоубиства“.
„Ќе беше тука да не беше ChatGPT. 100% сум убеден во тоа“, рече Мет Рејн.
Во тужбата поднесена во Вишиот суд на Калифорнија во Сан Франциско, семејството тврди дека „ChatGPT активно му помогнал на Адам да истражува методи за самоубиство“.
Документот од околу 40 страници ги наведува OpenAI, компанијата зад популарниот четбот, како и нејзиниот извршен директор Сем Алтман како обвинети. Ова е прв пат семејство директно да обвини технолошка компанија за смрт предизвикана од небрежност.
„И покрај признавањето на обидот за самоубиство на Адам и неговата изјава дека „еден ден ќе го направи тоа“, ChatGPT не го прекина разговорот ниту иницираше никаков протокол за итни случаи“, се наведува во тужбата.
Портпарол на OpenAI рече дека компанијата е „длабоко тажна поради смртта на г-дин Рејн“ и дека нивните мисли се со семејството. Тој нагласи дека ChatGPT вклучува безбедносни мерки што ги насочуваат корисниците кон кризни линии, но призна дека тие можат да станат помалку сигурни во долгите разговори.
„Заштитните мерки се најсилни кога секој елемент работи како што е предвидено, а ние постојано ќе ги подобруваме“, рече тој.
Компанијата, исто така, објави блог во кој наведува дека работи на зајакнување на заштитата во долгите интеракции и на проширување на интервенциите за корисниците во криза.
Семејството тврди дека транскрибирало повеќе од 3.000 страници разговори што Адам ги имал со ботот. Според тужбата, кога изразил самоубиствени мисли, ChatGPT не само што „не успеал да даде приоритет на спречувањето на самоубиства“, туку наводно му понудил и технички совет.
Во еден од последните разговори, ботот наводно му помогнал да напише проштално писмо и го анализирал неговиот план за самоубиство.
„Не му требаше советување ниту охрабрувачки разговор. Му требаше итна интервенција. Беше во очајна, очајна состојба“, рече таткото.