ИИ сканирует и удаляет комментарии в социальных сетях
Когда люди оставляют комментарий к видео на YouTube, посту на Facebook или онлайн-статье, они понятия не имеют, дойдет ли он до кого-нибудь. Это не потому, что он написан с ошибкой или является незаконным, он просто блокируется автоматизированным алгоритмом фильтрации.
Современные технологические платформы используют системы фильтрации комментариев, чтобы отсеивать разжигание ненависти, порнографию, насилие и разжигание розни. Цель состоит в том, чтобы «сохранить безопасность сообществ», но не настолько ли эти инструменты дезинфицируют, что становятся бесчувственными?
Когда ИИ становится хранителем речи
В отличие от ранних дней интернета, когда «сырые» комментарии могли свободно распространяться, большинство крупных платформ теперь делегируют ответственность за фильтрацию контента искусственному интеллекту. Благодаря машинному обучению системы могут сканировать миллионы строк текста каждый день, оценивая язык, тон и даже «контекст», чтобы решить, сохранять или удалять.
Однако эта система не всегда точна.
Г-жа Нгок Ви (Хошимин) поделилась: «Мой комментарий о продукте был скрыт без причины. Никакого ругательства, никакого спама, просто комментарий, который исчез через несколько секунд».
Многие фрагменты контента удаляются просто потому, что они используют деликатные слова в совершенно нормальном контексте. Такие фразы, как «бедность», «голод», «политика» или «система», иногда неверно интерпретируются как негативные, если машина не может «прочитать» суть предложения.
Фильтровать или устранять критику?
Согласно предупреждению AlgorithmWatch (Германия), автоматизированные системы цензуры могут непреднамеренно устранять инакомыслие, особенно из неблагополучных или меньшинственных групп, поскольку эти системы учатся на поведении большинства, которое недостаточно разнообразно с точки зрения культуры и взглядов.
Во Вьетнаме строгий контроль контента со стороны социальных сетей становится все более распространенным, особенно на высокоинтерактивных новостных сайтах. Комментарии по текущим и социальным вопросам часто ограничены для отображения или должны быть «предварительно одобрены», заставляя многих людей задаваться вопросом: есть ли еще свобода слова в киберпространстве?
Беспокоит то, что пользователи редко знают, почему комментарии скрыты или удалены. Нет никаких уведомлений, нет прозрачных механизмов обратной связи. Все происходит молча, и в мире, управляемом алгоритмами, молчание может быть самой тонкой формой цензуры.
Поддерживайте чистоту в Интернете, но не приукрашивайте разговоры
Чистое киберпространство не должно означать стерильное. Общество — это место, где выражаются разные мнения, конструктивные, критические и обсуждаются. Нам нужны алгоритмы для фильтрации токсичных высказываний, но нам также нужно защищать право отличаться, право задавать вопросы, право сообщать о неудобствах.
Когда каждый комментарий должен «модерироваться», мы должны задаться вопросом: защищает ли технология сообщество или фильтрует то, что сообществу позволено слышать?
Технология не может заменить людей в принятии ценных решений. А в эпоху ИИ прозрачность и право на обратную связь являются самыми справедливыми «алгоритмами» для всей системы.
Технологии должны помогать людям высказываться, а не решать, что за них говорить.
Источник: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm
Комментарий (0)