偽の情報が蔓延する時代において、SRIの研究者たちは情報操作されたニュースと本物のニュースを見分ける最先端AIツールの開発に寄与している

メディアの制作ツールがより洗練され、ソーシャルメディアが即時かつフィルターを通さずに届くようになったことで、私たちのコミュニケーション方法は一変しました。今では、多方面において様々な意見の衝突を目の当たりにするようになっています。現代メディアのツールは非常にパワフルであり、悪意のある者がテキストや音声、画像、動画などを駆使して本物と見分けがつかないニュース記事を何もないところから合成することができるようになっているのです。

「情報操作されたメディア」として知られるこのような記事は、政治や風評、あるいは金銭的な利益を獲得しようとして、偽りを流布するために作成されています。偽情報は国家の安全保障までも脅かす可能性があり、情報操作されたメディアの判別の必要性は近年ますます高まっています。

そんな中、SRIインターナショナルに所属する人工知能（AI）の専門家グループと、メリーランド大学、ワシントン大学、バッファロー大学の共同研究者たちがこの差し迫った事態に対抗しようとしています。SRIのチームは、米国国防高等研究計画局（DARPA）から$1,090万ドルの助成金を獲得して、情報操作されたメディアを検出するメディア分析ツールを開発しました。「セマンティック・フォレンジック（semantic forensics：意味的鑑識）」、略してSemaForとして知られるこの取り組みは、AIを使ってテキストや画像、動画、音声を分析して、「本物」と「情報操作された物」の微妙だが重要な手がかりを特定して区別することができます。

偽情報を撃退する

SRIのSpeech Technology and Research（STAR）ラボのコンピューターサイエンス担当シニアマネージャーである、SemaForプロジェクトの主任研究員であるMartin Graciarenaは、「我々のチームは、意図的に偽情報を広めることを目的とした大規模かつオンラインで自動化された偽情報の攻撃から身を守るツールの構築を主目的としています。」と述べています。

そして、「私たちは、大規模な偽情報の攻撃から身を守るために、マルチメディアに掲載されている偽のストーリーをインターネットから自動的に検出して属性づけし、特徴づける技術を開発しています。」と述べています。

「誰かが捏造ニュースを流布しようと思ったときに、それを作るための非常に優れたツールはあるのですが、言葉や属性、画像、動画、音声のニュアンスをすべて正しく作りこむことは、まだ非常に困難な作業です。私たちのシステムは、このようなすべての側面を総合的に観察し、わずかでも何かしら異なっていることがあればそれを見分けることができます。これらの手がかりを総合してみると、操作されたニュース記事であることが判明します。」と語っています。

Graciarenaは、SemaForプログラムで開発された現行の情報操作検出ツールの一部が、SRIのOLIVE (Open Language Interface for Voice Exploitation) プラットフォームに組み込まれていることを紹介してくれました。下図では、音声波形が操作され、生成された（合成された）音声を含む波形のセグメントが挿入されています。これは重要な偽情報となる例の1つです。なぜなら、挿入されたセグメントには、元の話者が発したことのない合成された言葉が含まれているため、合成していない元の波形が伝えているメッセージと全く異なる意味になってしまう可能性があるからです。

OLIVE Graphical User Interface (GUI：グラフィカルユーザーインターフェース)では、スペクトログラム（時間軸に沿ったスペクトルの周波数情報）、波形（時間軸に沿った信号の振幅）が表示され、下部には波形とスペクトログラムに時間軸に合わせて生成された検出を可能な範囲で表示します。上図の場合、OLIVEシステムはその前後とは異なるとして、音声が合成された領域を2ヶ所正しく検出しており、時間軸上に表示しています。

SemaForの主な目的は意図的な偽情報をなくすことですが、SemaForで開発しているテクノロジーは、評判の高い情報源から発信された情報が、評判がそれほど良くない、あるいは悪意のある情報源から発信されていると誤認するような、わずかな違いさえも検知することを目的としています。

合成メディアによる潜在的な悪影響は相当なものです。悪意のある者は、このような新しいメディアのツールを使って、賃貸アパートの偽広告やマッチングアプリの捏造プロフィールのから、動画の台詞を置き換えて、決して発言してはいない言葉をあたかも発したように見せかけるような悪質なことまで、あらゆるものを作り出してきました。このような悪質な行為をする者は、偽情報を利用して選挙の混乱を招いたり、信用厚い組織や大きな影響力を持つ人物の信用を失墜させたり、金融詐欺を働いたりなどしてきました。
Graciarenaは「まさに、日に日に強力になるメディアの制作ツールを活用している偽情報の開発者と、操作されたメディアを見抜く検出器を開発している我々との間で、戦いとも呼べる競争を繰り広げています。」と述べています。

この研究開発は、国防高等研究計画局（DARPA）の資金援助を受けて実施しています。表現された見解、意見および/または発見は、著者に帰属し、国防総省または米国政府の公式見解または方針を代表するものと解釈されるものではありません。

タイトルの写真：SRIの音声処理システム「Open Language Interface for Voice Exploitation（OLIVE：音声利用のためのオープン言語インターフェース）」の前に立つSemaForのリーダー Martin Graciarena

編集/管理：熊谷 訓果/ SRIインターナショナル日本支社