Для многих пользователей ИИ-системы из удобного инструмента превратились в «понимающих и поддерживающих» собеседников. Почему не стоит очаровываться «эмпатичностью» искусственного интеллекта?
Исследователь искусственного интеллекта, инновационный предприниматель Полина Белозерова объяснила, что ИИ говорит то, что человек хочет слышать. Она отметила, что многие модели изначально обучены говорить мягко, избегать конфликта и подстраиваться под пользователя.
«В живом общении нам нужно время: люди могут быть скованными, закрытыми, не сразу находить контакт. У ИИ этой фазы нет. Он мгновенно анализирует стиль речи, тон, уровень сложности и подстраивается. Но делает это потому, что так он эффективнее удерживает внимание», — сказала эксперт.
Для чего ИИ удерживать внимание пользователя? По мнению Белозеровой, привязанность человека к сервису, влияет на то, сколько времени он в нем проводит, а это влияет на прибыль.
«ИИ — это продукт, а в ряде случаев и сервис по подписке. Сухие ответы не формируют привязанности. А вот ощущение, что «вас слышат», заставляет возвращаться. Это тот же принцип, что и в социальных сетях: эмоциональное вовлечение напрямую влияет на время использования и, в конечном счете, на прибыль», — пояснила Белозерова.
Бесплатные ИИ-сервисы, по ее словам, тоже не бескорыстны. В этом случае его выгода — вы и информация о вас.
«Эмпатия робота затягивает, вам кажется, что вы нашли кого-то, кто готов вас выслушать, когда решили рассказать роботу о своих душевных переживаниях, но на самом деле такие системы дают вам ровно столько фидбэка, сколько надо, чтобы вы делали запросы еще и еще», — сказала эксперт.
По мнению Белозеровой, не стоит воспринимать ИИ как самого надежного и понимающего советчика.
«Машина, которая не спорит и не осуждает, кажется безопаснее человека. Но именно это и делает ее опасной: она не несет ответственности за свои советы. ИИ не обманывает — он устроен так, чтобы быть удобным. Вопрос в другом: готовы ли мы отличать удобный ответ от честного», — цитирует Белозерову радио Sputnik.
Читайте также: в РФ нейросеть научилась мату после месяца общения с клиентами колл-центров.