Опасения, что ИИ может читать мысли и манипулировать человеческими решениями

(CLO) Последние исследования Кембриджского университета раскрыли тревожную истину: ИИ — это не просто вспомогательный инструмент, но и возможность манипулировать нашими мыслями, превращая нас в марионеток в технологической пьесе.

Исследователи разработали новую концепцию под названием « экономика намерений». В рамках этой экономики компании могут собирать и анализировать огромные объёмы данных о нашем поведении, предпочтениях и привычках, чтобы предсказывать наши дальнейшие действия.

Затем они могут продать эту информацию другим компаниям, которые хотят более точно нацелить свою рекламу на нас.

ИИ способен формировать наши мысли и действия. Иллюстрация: ИИ

Например, вы ищете новый телефон. ИИ будет отслеживать ваше поведение в интернете, ключевые слова, которые вы ищете, и даже ваши разговоры, чтобы лучше понять ваши потребности. Телефонные компании могут использовать эту информацию, чтобы показывать вам рекламу телефонов, которые лучше всего вам подходят.

«Если её не контролировать, экономика намерений может стать инструментом манипулирования нашими решениями», — предупреждает доктор Джонни Пенн, историк технологий из Кембриджского университета. «Компании могут использовать ИИ, чтобы заставить нас покупать ненужные нам товары или даже влиять на наши решения при голосовании».

Авторы также заявили, что модель ИИ будет управлять диалогами, обслуживая рекламодателей, компании и другие заинтересованные стороны. Рекламодатели смогут использовать инструменты, созданные ИИ, для создания персонализированной онлайн-рекламы.

В отчете приводится пример созданной компанией Meta модели искусственного интеллекта под названием Cicero, которая достигла «человеческого уровня» в игре «Дипломатия» — игре, которая, по словам авторов, основана на умении делать выводы и предсказывать намерения оппонентов.

Ведущие эксперты в области технологий предупреждают о способности ИИ предсказывать и влиять на поведение человека.

В частности, генеральный директор Nvidia Дженсен Хуанг в своём прошлогоднем выступлении высказал примечательную точку зрения. Он утверждал, что продвинутые модели искусственного интеллекта смогут «понять ваши намерения, ваши желания, ваши действия и представить вам информацию наилучшим образом».

Хоанг Ань (по данным CUN, Nvidia, Guardian)

Источник: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html