AIがソーシャルメディア上のコメントをスキャンして削除している
YouTube動画、Facebookの投稿、あるいはオンライン記事にコメントを残すとき、それが誰かに届くかどうかは分かりません。スペルミスや違法行為が原因ではなく、自動フィルタリングアルゴリズムによってブロックされているだけです。
今日のテクノロジープラットフォームは、ヘイトスピーチ、ポルノ、暴力、分断を煽る発言を排除するためにコメントフィルタリングシステムを導入しています。その目的は「コミュニティの安全を守る」ことですが、これらのツールはあまりにもサニタリー化が進みすぎて、無神経になってしまっているのでしょうか？
AIが言論の門番となるとき
インターネット黎明期には「生の」コメントが自由に流れていましたが、今ではほとんどの主要プラットフォームがコンテンツフィルタリングの責任を人工知能に委ねています。機械学習のおかげで、システムは毎日何百万行ものテキストをスキャンし、言語、トーン、さらには「文脈」までも評価して、残すか削除するかを判断できます。
ただし、このシステムは必ずしも正確ではありません。
Ngoc Vy 氏 (HCMC) は次のように語りました。「商品に関する私のコメントが理由もなく非表示になりました。悪口やスパムコメントではなく、ただ数秒後に消えたコメントでした。」
多くのコンテンツは、全く普通の文脈でセンシティブな言葉が使われているというだけの理由で削除されています。「貧困」「飢餓」「政策」「システム」といったフレーズは、機械が文の本質を「読み取る」ことができない場合、否定的な意味合いと誤解されることがあります。
批判をフィルタリングするか、排除するか?
AlgorithmWatch（ドイツ）の警告によると、自動検閲システムは、文化や視点の点で十分に多様ではない多数派の行動から学習するため、特に恵まれない人々や少数派のグループからの反対意見を意図せず排除してしまう可能性がある。
ベトナムでは、ソーシャルメディアプラットフォーム、特にインタラクティブ性の高いニュースサイトによるコンテンツの厳格な管理が一般的になりつつあります。時事問題や社会問題に関するコメントは表示が制限されていたり、「事前承認」が必要であったりすることが多く、多くの人々が「サイバースペースに言論の自由はまだあるのか？」と疑問を抱いています。
懸念されるのは、コメントが非表示または削除された理由をユーザーがほとんど知らないことです。通知も、透明性のあるフィードバックの仕組みもありません。すべてが静かに行われ、アルゴリズムによって運営される世界では、沈黙は最も巧妙な検閲になり得ます。
インターネットを清潔に保ちつつ、会話を隠蔽しない
クリーンなサイバースペースは、無菌状態を意味するべきではありません。社会とは、様々な意見が表明され、建設的かつ批判的に議論される場です。有害な発言をフィルタリングするアルゴリズムは必要ですが、同時に、意見を異にする権利、疑問を呈する権利、そして不都合な点を指摘する権利も守る必要があります。
すべてのコメントを「モデレート」しなければならない場合、私たちは「テクノロジーはコミュニティを保護しているのだろうか、それともコミュニティが聞くことを許可されているものをフィルタリングしているのだろうか」と自問する必要があります。
テクノロジーは、価値ある意思決定において人間に取って代わることはできません。そしてAI時代において、透明性とフィードバックを受ける権利こそが、システム全体にとって最も公平な「アルゴリズム」なのです。
テクノロジーは人々が発言するのを助けるべきであり、人々に代わって何を言うかを決めるべきではない。
出典: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm
コメント (0)