Преимущества и риски использования детьми чат-ботов на основе искусственного интеллекта

СГГПО 24.10.2023 17:11

Хотя чат-боты на основе искусственного интеллекта обладают множеством существенных преимуществ, если пользователи не знают о потенциальных рисках, которые эти инструменты представляют для детей, они подвергаются большему риску потери персональных данных, угрозе жизни и неприемлемому контенту.

Родители должны научить детей безопасно пользоваться Интернетом

Обучение стало ещё более эффективным благодаря инструментам искусственного интеллекта. С помощью чат-бота на основе искусственного интеллекта пользователи могут найти полезную информацию по любой теме , просто сказав одно предложение.

В этом контексте дети всех возрастов по всему миру имеют доступ к инструментам ИИ, однако эти инструменты практически не требуют согласия перед использованием.

Чат-боты на основе ИИ упростили навигацию по информации, избавив от необходимости открывать десятки вкладок и читать бесчисленные статьи. Для детей это особенно важно, поскольку они любопытны, и ИИ может помочь им лучше вовлекаться в процесс обучения.

Более того, ИИ предоставляет платформу, которая позволяет детям оттачивать свои языковые навыки и свободно обсуждать темы без ограничений по времени, однако это также сопряжено с рисками.

Говоря об онлайн-контенте, Нура Афанех, аналитик веб-контента в «Лаборатории Касперского», отметила определённые риски, связанные с использованием чат-ботов на основе искусственного интеллекта. Среди них — ChatGPT, который установил рекорд по самому быстрому росту числа пользователей, но при этом не проверяет возраст пользователей, что представляет угрозу конфиденциальности данных детей.

Более того, иногда контент, предоставляемый ChatGPT, не совсем точен и может легко привести к тому, что пользователи получат ложную информацию. Это включает в себя поддельные ссылки и несуществующие статьи, что также способствует тому, что ChatGPT становится инструментом для плагиата для некоторых студентов.

Кроме того, чат-бот Snapchat «Мой ИИ» также является чат-ботом, который часто используется детьми, поскольку приложение позволяет пользователям в возрасте от 13 лет использовать его без родительского контроля, что вызывает вопросы о конфиденциальности детей и хранении их данных приложением, привел пример г-н Нура Афанех.

Один из рисков заключается в том, что дети могут принять ИИ за настоящего друга и действовать по его советам, которые «могут включать предвзятый, неточный, вредоносный или вводящий в заблуждение контент».

Как родители, важно понимать, что запрет на использование этого чат-бота на основе искусственного интеллекта не всегда является лучшим способом защиты детей, поскольку дети всегда могут подвергнуться воздействию нового контента в Интернете, поэтому родителям необходимо играть активную роль в уравновешивании вышеуказанных рисков и работать над их снижением.

Советы родителям по минимизации рисков, связанных с чат-ботами на основе искусственного интеллекта:

• Расскажите детям о безопасности в Интернете: предоставление детям знаний о безопасности и конфиденциальности в Интернете — это эффективный способ предотвратить передачу личной информации незнакомцам, даже чат-ботам.

• Познакомьтесь с чат-ботами на основе искусственного интеллекта вместе со своими детьми: «Лаборатория Касперского» призывает родителей объяснять детям, как ими пользоваться, а также повышать их осведомленность о том, какие вопросы следует и не следует задавать чат-ботам на основе искусственного интеллекта.

• Мониторинг, управление и настройка параметров конфиденциальности: комплексное решение для безопасности — один из самых мощных инструментов онлайн-защиты для родителей. Кроме того, приложения для родителей, разработанные в эпоху технологий, предоставляют столь необходимые ресурсы для защиты детей в интернете.

Источник: https://www.sggp.org.vn/loi-ich-va-rui-ro-khi-tre-em-su-dung-chatbot-ai-post711163.html