Így kompenzálnák, hogy a ChatGPT öngyilkosságra buzdította a gyerekeket

„A következő hónapban a szülők összekapcsolhatják fiókjukat tizenéves gyermekük fiókjával”, és „ellenőrizhetik, hogy a ChatGPT hogyan válaszol gyermeküknek a modell viselkedési szabályai alapján” – közölte az OpenAI egy blogbejegyzésben.

A vállalat szerint a szülők értesítést kaphatnak, ha a platform gyermekük beszélgetéseiben „akut szorongást” észlel, és ellenőrizhetik a fiók beállításait. Gyermekük halála után egy 16 éves kaliforniai fiú szülei augusztusban pert indítottak az OpenAI ellen, azzal vádolva a céget, hogy a ChatGPT részletes utasításokat adott fiuknak az öngyilkossághoz.

A mostani bejelentés „valóban a legszükségesebb minimum” – mondta Melodi Dincer ügyvéd, aki a szülőkkel és egy egyesülettel együtt vitte az ügyet bíróság elé. Úgy vélekedett, az ilyen intézkedéseknek már régóta érvényben kellene lenniük, egyben kétségét fejezte ki az OpenAI által bevezetett korrekcióval kapcsolatban.

„Továbbra is fejlesztjük modelleinket, hogy jobban felismerjék a mentális és érzelmi szorongás jeleit” – írta a cég blogbejegyzésében.