Журналист The Washington Post раскритиковал новую функцию интеграции ChatGPT с Apple Health, протестировав ее на собственных данных и оставшись недоволен результатами.
Репортер Джеффри Фаулер предоставил чат-боту доступ к данным Apple Watch за десять лет, включающим около 29 млн шагов и 6 млн измерений пульса, и попросил оценить состояние сердечно-сосудистой системы.
ChatGPT, работающий в рамках запущенного OpenAI сервиса ChatGPT Health, поставил пользователю оценку "F", то есть очень низкую. Фаулер обратился к своему лечащему врачу, который полностью отверг выводы ИИ, заявив, что риск сердечных заболеваний у пациента настолько низкий, что дополнительные обследования, вероятно, не были бы покрыты страховкой.Кардиолог Эрик Тополь из Института Скриппса также назвал анализ чат-бота необоснованным и подчеркнул, что подобные рекомендации не готовы к практическому использованию.
Дополнительные вопросы вызвала непоследовательность работы ChatGPT: при повторных запросах оценка состояния здоровья колебалась от "F" до "B", а система путалась в базовой информации о пользователе, включая возраст и пол, несмотря на доступ к данным. Конкурирующий чат-бот Claude от Anthropic показал немного лучший результат, поставив оценку "C", но также не учел ограничения данных Apple Watch.
Обе компании подчеркивают, что их инструменты не предназначены для замены врачей и постановки диагнозов. При этом эксперты указывают, что даже такие оценки могут напугать пользователей или, наоборот, создать ложное ощущение благополучия.
Интеграция ChatGPT с Apple Health пока доступна ограниченному числу бета-пользователей.
В OpenAI заявили, что работают над повышением стабильности ответов и используют закрытый доступ, чтобы доработать сервис перед более широким запуском.
Свежие комментарии