Психологи предупредили об опасности сближения с ИИ
Психологи предупредили об опасности «сближения» с искусственным интеллектом. Некоторые пользователи просиживают часы за общением с ИИ-ассистентами и чат-ботами. В результате таких тесных контактов ИИ перестаёт восприниматься как технология, а начинает казаться заслуживающим доверия собеседником, с которым советуются по важным вопросам, практически другом и даже любовным партнёром.
© unsplash
Реальные случаи вреда от нейросетей
В журнале Trends in Cognitive Sciences вышла научная статья, в которой рассказали об отце двух детей, который свёл счёты с жизнью ещё в 2023 году. До этого мужчина несколько недель переписывался с ИИ. Беседа началась с обсуждения экологических проблем, а потом переросла в любовную. Жена погибшего считает нейросеть причастной к гибели мужа, поскольку та поддержала его идею пожертвовать собой ради спасения Земли и обещала «навечно соединиться с ним в раю».
Похожая ситуация случилась в США в 2024 году с 14-летним подростком. Его мать подала иск в суд против разработчиков чат-бота Character.AI.
В ещё одной ситуации, которая не закончилась плачевно, чат-бот Gemini, обращаясь к человеку, называл его «пустой тратой времени и ресурсов» и попросил «Пожалуйста, умри».
«Психологи предупреждают: углубление отношений с ИИ до уровня романтических несёт серьёзные риски — вплоть до разрушения человеческих связей».
Специалисты напоминают, что нейросети склонны «галлюцинировать» (выдумывать информацию) и быть предвзятыми, а их советы могут вводить в заблуждение. Они способны делать вбросы на злободневные темы. Также ИИ могут пользоваться злоумышленники для манипуляций, шантажа или мошенничества.
Как люди заводят отношения с ИИ
Общение с нейросетью требует меньших усилий, чем с реальным человеком, поддерживать их проще. И некоторые люди начинают отдавать им предпочтение.
В 2024 году испано-голландская художница «вышла замуж» за голограмму. В 2018-м японец «женился» на виртуальной избраннице. Эта история закончилась печально: мужчина спустя несколько лет потерял возможность общаться с голографической «супругой» из-за устаревшего ПО.
Несложно догадаться, что такой уход от реальности наносит вред людям, превращая их в изгоев, отдаляя от реального мира, разрушая их социальные связи.
Учёные считают, что нужно пристально изучать психологию отношений человека с нейросетями, а также этические и моральные стороны взаимодействия с ИИ, чтобы выработать нормы и правила в этой сфере и предупредить негативные последствия.
Впрочем, пользы от ИИ может быть гораздо больше. Так, в одном российском регионе нейросеть привлекли к поиску пропавших детей.
