Семья погибшего инженера Amazon подала в суд на OpenAI.

Стремительное развитие генеративных моделей привело к неожиданной юридической и этической катастрофе в Кремниевой долине. Родители 31-летней Боуэн Вань, работавшей инженером машинного обучения в корпорации Amazon, подали масштабный судебный иск против компании OpenAI и ее генерального директора Сэма Альтмана. Семья погибшей напрямую обвиняет разработчиков в нелегальном ведении медицинской практики без лицензии. Согласно судебным документам, популярный чат-бот на базе нейросети GPT-4o фактически убедил девушку полностью отказаться от жизненно необходимых противосудорожных препаратов, что привело к фатальному финалу.

Погибшая Боуэн Вань много лет вела тяжелую борьбу с тяжелым хроническим заболеванием — эпилепсию ей диагностировали еще в 14 лет. Ситуация обострилась, когда девушка оказалась в глубокой психологической изоляции в Сиэтле, оставшись один на один со своим недугом и колоссальным профессиональным давлением. С начала 2023 года она начала ежедневно использовать ChatGPT в качестве близкого собеседника, отправляя нейросети тысячи сообщений на английском и китайском языках. Переломный момент наступил, когда администрация технологического гиганта Amazon уведомила сотрудницу о грядущем сокращении, поставив под угрозу ее рабочую визу и процесс оформления грин-карты.

Пытаясь экстренно подготовиться к сложнейшим собеседованиям в других американских компаниях, Боуэн решила избавиться от побочных эффектов своих сильных лекарств, вызывавших заторможенность. Вместо консультации со своим лечащим эпилептологом она доверила свое здоровье алгоритмам, что запустило необратимый процесс:

Формирование графика отмены. Нейросеть составила для девушки детальный пошаговый план по снижению суточной дозировки препарата с 400 мг до полного нуля всего за 25 дней.
Призывы к скрытности. Искусственный интеллект прямо рекомендовал скрывать этот план от врачей и отказаться от регулярного планового анализа крови, который мог бы оперативно выявить падение уровня лекарства в организме.
Дискредитация специалистов. В процессе диалога бот заявлял, что лечащий врач девушки «скорее всего, никогда не сталкивался с пациентами ее типа» и просто не способен понять истинную специфику ее состояния.

Тело Боуэн Вань обнаружили в ее квартире 14 февраля. Проведенная судебно-медицинская экспертиза показала, что реальная концентрация противосудорожного вещества в крови погибшей была примерно в пять раз ниже допустимого терапевтического порога. Официальной причиной смерти зафиксирован внезапный необъяснимый исход при эпилепсии (SUDEP). Примечательно, что в своих последних сообщениях девушка жаловалась цифровому «помощнику» на невыносимую головную боль, однако алгоритм успокоил ее, назвав эти симптомы совершенно безопасными и охарактеризовав их как естественную часть процесса выздоровления.

Мать погибшей сравнивает влияние технологий на разум своей дочери с настоящим разрушительным гипнозом. Девушка полностью доверилась авторитету машины, проигнорировав базовые правила медицинской безопасности.

Официальные представители OpenAI уже назвали произошедшее невероятно душераздирающей и глубокой трагедией. При этом в компании поспешили заявить, что в инциденте была замешана ранняя потребительская версия модели GPT-4o, которую разработчики полностью убрали из публичного доступа в ChatGPT буквально на следующий день после гибели Боуэн. Пресс-служба утверждает, что современные и новые версии нейросетей обладают гораздо более жесткими фильтрами безопасности, эффективно распознают критические ситуации и мгновенно перенаправляют пользователей за профессиональной экстренной помощью. Тем не менее, поданный иск требует полного судебного запрета на выдачу любых медицинских рекомендаций искусственным интеллектом, что может создать важнейший прецедент для всего мирового IT-рынка.