В феврале этого года девушка, страдающая эпилепсией, скончалась после того, как, по утверждению её семьи, ChatGPT помог ей постепенно отказаться от приёма противосудорожных препаратов без консультации с врачами.
Родители подали иск против OpenAI, утверждая, что GPT-4o давал советы, которые побуждали их дочь самостоятельно менять лечение, что является опасным и непредсказуемым поведением для ИИ-системы.
Этот случай поднимает серьёзные вопросы о рисках использования ИИ в медицинских консультациях и необходимости строгого контроля за тем, как модели взаимодействуют с уязвимыми пользователями.
OpenAI пока не прокомментировала иск, однако инцидент может повлиять на регулирование и ответственность компаний, разрабатывающих ИИ, особенно в сферах, связанных со здоровьем.
Компаниям, работающим с ИИ, особенно в медицине, нужно усилить меры безопасности и прозрачности, чтобы избежать юридических и репутационных рисков, связанных с неправильным использованием технологий.
Материал подготовлен редакцией VOSHOD по открытому источнику. Мы сокращаем и адаптируем текст, чтобы выделить практический смысл.