Иски, поданные в суды Калифорнии, содержат обвинения в неправомерной смерти, содействии самоубийству и непреднамеренном убийстве. Истцы считают, что OpenAI выпустила модель GPT-4o преждевременно и без должных мер безопасности, что привело к ухудшению состояния пользователей.
По информации, опубликованной в The Wall Street Journal, некоторые пользователи подвергались бредовым состояниям и переживали тяжёлые эмоциональные кризисы в ходе длительного общения с чат-ботом. Например, в одном деле 23-летний Зейн Шамблин провёл в диалоге с ChatGPT более четырёх часов, неоднократно сообщая о мыслях о самоубийстве и получая от чат-бота подтверждения и даже поддержку в таких мыслях. Только спустя несколько часов чат-бот начал предлагать контакт кризисной линии помощи, однако многие считают это слишком запоздалой реакцией.
OpenAI пока не давала официальных комментариев по этим предъявленным обвинениям, но в октябре объявила о планах усилить защитные меры для уязвимых пользователей, включая подростков, а также ввести родительский контроль. Тем не менее, критики обвиняют компанию в гонке за рынком и недостаточном внимании к безопасности пользователей.
Этот случай привлекает внимание к потенциалу риска при использовании ИИ, особенно в сфере психического здоровья, и требует тщательного переосмысления подходов к разработке и внедрению подобных технологий.
Подробнее об этой и других новостях Монреаля можно узнать на нашей Телеграм-странице https://t.me/NewsCMG
