Признайтесь, что неоднократно обращались за помощью к нейросетям по вопросам здоровья. Кстати, некоторые даже умудряются «ставить диагнозы и назначать себе лечение» по Интернету.

Так вот, ChatGPT больше не сможет отвечать на вопросы пользователей, связанные с медициной. Об этом сообщили в компании, которой принадлежит сервис.

Дело в том, что исследователи обнаружили существенные недостатки в ChatGPT. В том числе, отсутствие экспертной логики, неспособность различать ложную и правдивую информацию, что повышает риск опасных рекомендаций. Нейросеть также склонна генерировать убедительные, но вымышленные данные.

В октябре этого года Росздравнадзор ввел обязательное требование для производителей медсистем с ИИ сообщать о любых ошибках и сбоях. Это нововведение направлено на обеспечение безопасности и эффективности использования искусственного интеллекта в медицинской сфере.