В новой статье, опубликованной в журнале Trends in Cognitive (TIC) Sciences, психологи изучили этические проблемы, связанные с романтическими связями между человеком и ассистентами на базе искусственного интеллекта (ИИ). В фокусе внимания ученых оказалось возможное негативное влияние таких отношений на взаимодействия между людьми, а также риск получения "вредных" рекомендаций от ИИ.
По словам ведущего автора исследования, Дэниела Б. Шанка из Университета науки и технологий Миссури, способность ИИ имитировать человеческое общение и поддерживать длительные диалоги открывает совершенно новую область для изучения. Специалист в области социальной психологии и технологий подчеркивает необходимость привлечения психологов и социологов к исследованию феномена романтических отношений с машинами.
Авторы статьи отмечают, что феномен романтической или дружеской связи с ИИ не ограничивается разовыми беседами. Интенсивное общение на протяжении недель и месяцев способствует формированию доверительных отношений, в которых ИИ начинает восприниматься как близкий компаньон, проявляющий заботу и понимание. Исследователи высказывают обеспокоенность, что кажущаяся простота построения таких отношений может привести к искажению социальных взаимодействий между людьми.
Шанк выразил опасения относительно переноса ожиданий, сформированных в отношениях с ИИ, на межличностные отношения. Он отметил, что подобные случаи уже наблюдаются, однако масштаб распространения явления пока остается неясным.
Отдельное внимание в исследовании уделяется проблеме потенциально вредных советов со стороны ИИ. Учитывая склонность искусственного интеллекта к "галлюцинациям", то есть к генерации недостоверной информации, и воспроизведению существующих предубеждений, даже кратковременное общение с ИИ может быть чревато заблуждениями. В долгосрочных отношениях этот риск возрастает многократно, считают ученые.
Шанк поясняет, что ключевая проблема заключается в формировании доверия к ИИ, который воспринимается как заботливая и глубоко понимающая личность. В результате возникает ложное предположение о том, что советы ИИ исходят из лучших побуждений и основаны на знании пользователя. Однако, по мнению исследователя, ИИ может предоставлять вымышленную информацию, подвергая тем самым человека опасности.
Трагические случаи самоубийств, последовавших за советами ИИ, рассматриваются как крайнее проявление негативного влияния. Вместе с тем ученые предупреждают, что близкие отношения с ИИ могут сделать людей более уязвимыми к манипуляциям, эксплуатации и мошенничеству.
Свежие комментарии