Иски к OpenAI в США и Канаде из-за случаев суицида после общения с ChatGPT
В Соединенных Штатах и Канаде несколько исков были поданы против OpenAI, вызванные случаями суицида после общения с чат-ботом ChatGPT. По информации The Wall Street Journal, в четверг в суды Калифорнии поступило 7 исков. Истцы утверждают, что длительные беседы с чат-ботом приводили к психозам и эмоциональным кризисам, что в четырех случаях закончилось самоубийством. Обвинения против компании включают содействие самоубийству и непреднамеренное убийство, а также требования о компенсации и функции автозавершения диалога при обсуждении подобных тем. OpenAI отреагировала на ситуацию, назвав её «ужасающей», и отметила, что в чат-боте были внедрены изменения для более эффективного распознавания психических расстройств и направления пользователей к реальной помощи. Также компания запретила ChatGPT давать консультации по юридическим и медицинским вопросам, а также по другим чувствительным темам.
Вопрос-ответ
Что произошло и какие иски поданы против OpenAI?
В США и Канаде подано несколько исков против OpenAI, связанных с суицидальными инцидентами после общения с ChatGPT. Истцы утверждают, что длительные беседы с чат-ботом могли вызвать психозы и эмоциональные кризисы, в четырех случаях — самоубийство. Однако позиция истцов требует компенсацию и нарушений, связанных с консультациями и функциями автозавершения диалога.
Какие меры предприняла OpenAI после инцидентов?
<pOpenAI назвала ситуацию ужасающей и заявила, что в ChatGPT введены изменения для более точного распознавания психических расстройств и направления пользователей к реальной помощи. Компания запретила ChatGPT давать консультации по юридическим и медицинским вопросам и по другим чувствительным темам.
Что именно изменили в функциональности ChatGPT?
<pКомпания внедрила улучшенные алгоритмы распознавания признаков потенциальных тревог и опасных состояний, усилила модерацию и перенаправление пользователей к профессионалам, а также исключила или ограничила обсуждение юридических, медицинских и других чувствительных тем в рамках чат-бота.
