生成AIの普及で問題となっているフェイクコンテンツ対策
今後、ますます、インターネットとの関係が密になるDSシステムとしても、生成AIを使ったフェイクコンテンツの判別技術やそれを使った評価運用方法について注目される。
生成AIの普及によって、フェイクコンテンツ対策が急務となっている。能登半島地震の際にも、過去の別地域の被害映像を使った偽造映像がSNS上で流通し、少なからず混乱を招いた。誰かが意図的に生成AIを使って作成しSNSで発信しているようだ。報道機関や公的機関が発信するコンテンツに混じって流通するために、地域住民や関係者は、それを判別するのが難しい。
DSCには、3.11以降、災害時の必要情報の表示やDSシステムの安全性確保の問題で、NISC等の政府系セキュリティ機関より、いくつかのアプローチが続いている。しかし、システムがハッキングされなくても、映像コンテンツの信頼性を評価できずに街頭に発信してしまうとすると、それはハッキングされたに等しいことになる。
3.11の際には、街中にたくさんの帰宅困難者が発生したため、適切な情報を届けようと街頭だけではなくビル内も含めてTV放送に切り替えたDSが多かった。しかし、それまではNHK等の放送事業者との許諾問題を明確にしていなかったため、2010年代前半で関係者による議論が続いた。DSCとしてもITU等の国連機関に、災害時のDSシステムの標準化活動を行った。県防災や警察、消防、そして放送事業者のシステムから適正な手順によって安全に必要情報を取得してきてDSに表示するための国際標準だ。
取得先は、自治体が設定する「公式SNS」も含まれることになる。公式とはいっても基本はSNSであり、信頼性を確保する方法は、残念ながら整備されていない。一方、市民のスマホ映像が放送事業者のニュースにも使われる時代になってしまったので、ソースの信頼性確保は大きな課題となっている。
実は、我が国では、これらの課題に対応するために、2023年1月に「オリジネーター・プロファイル（OP）技術研究組合」が新聞社や放送事業者によって設立されている。「インターネット上のコンテンツ作成者、デジタル広告の出稿元などの情報を検証可能な形で付与する技術で、信頼できる発信者を識別可能にすることで第三者認証済みの良質なメディアとコンテンツをインターネット利用者が容易に見分けられる仕組みを確立」しようと活動を開始している。
また、海外では、2021年に「Coalition for Content Provenance and Authenticity（C2PA）」が設立され、Adobe、BBC、Google、SONY等が参加している。C2PAは、カメラ等の情報の入り口から編集システム、サーバ等に至る一連のプロセスで「メディアコンテンツの出所や経緯、来歴を認証する技術規格を開発することで、偽情報、誤情報、オンラインコンテンツ詐欺のまん延に対処」しようと活動している。
街頭で情報を発信し続けるDSシステムとしては、これらの仕組みの早期整備を期待するばかりだが、政府でも、生成AIを使ったフェイクコンテンツの判別技術やそれを使った評価運用方法について、調査や実証実験が準備されているようだ。DSCでは、2020年11月に渋谷スクランブルスクエア等で、総務省による災害時の避難誘導情報の表示に係る実証を行っている。今後、ますます、インターネットとの関係が密になるDSシステムとしても、こうした表示コンテンツの信頼性確保に向けた動向には大いに注目していきたい。(S.N)