フライブルクのAI技術がオンラインでの誹謗中傷対策に活躍

ドイツ南部のフライブルクで開発されたAIソフトウェア「Penemue」が、SNS上での誹謗中傷やヘイトスピーチへの対策として注目を集めています。

このソフトウェアは、FacebookやTwitterなどのソーシャルメディアに投稿されたコメントの中から、攻撃的な内容や違法性のある投稿を自動的に検出し、フィルタリングする機能を備えています。政治家やスポーツ選手など、公の立場にある人物が特に多くの誹謗中傷の対象となるため、このツールは彼らを保護する手段として活用されています。

ベルリンにお住まいの日本人の皆様の中にも、SNS上で嫌がらせを経験された方がいるかもしれません。ドイツでも日本と同様に、オンライン上での誹謗中傷は深刻な問題として認識されており、このようなテクノロジーを用いた対策が進んでいます。

Penemueのような技術は、単なる個人の安全を守るだけでなく、より健全で安全なオンラインコミュニティの構築を目指すものです。ドイツでもオンライン上での表現の自由と個人の保護のバランスについて、活発な議論が続いています。