散在している情報を総合的に整理してくれる生成型人工知能（ＡＩ）のおかげで、情報習得時間が大幅に短縮され、業務効率も向上するという。しかし、本当にそうなのか疑わしい状況が少なくない。ＡＩが作ったイメージに騙されて無駄な騒動が起きたり、感情を消耗することが起こるからだ。
倹約と清廉のアイコンである教皇がイタリアの高級ブランドのダウンコートを着て街を歩く（３月）。米国防総省の庁舎が大規模な爆発で黒煙に包まれる（５月）。ウクライナの大統領が降伏を宣言し、兵士たちは白い旗を振る（昨年３月）。
偽物であることでより有名になったこれらの写真は、すべてＡＩの作品だ。よく見ると、教皇の手の形がぎこちないなど、ＡＩ画像に見られる一般的な欠陥が目立つ。しかし、一見すると騙されるかもしれない。
偽の写真だけではない。テキストの方では、偽の情報がより速く、より多く生成されている。ニュースサイトの格付け機関「ニュースガード」によると、ニュースサイトのように見える１５０以上のウェブサイトが、完全にＡＩが作成したと思われるテキストで満たされている。昔の出来事を今起きたかのように書いたり、生きている人を「死亡した」と伝える文章も数多くあるという。
このような偽情報に騙されないためには、自分が接する情報がどこまでが真実でどこまでが偽物なのかを常に疑って検証しなければならない。ＡＩリテラシーは、ＡＩが誤った情報を伝える可能性があるということまで認識する能力という話もある。これでは仕事が減るどころか、もっと増えそうだ。
それでもここまでは我慢できるとしよう。情報の発信元を把握すれば、真偽を見分けることができるからだ。発信元が公信力のあるメディアなら信じていいだろうし、そうでなければ信じなければいい。
問題は、公信力のあるメディアの情報さえも捏造される可能性があるという点だ。東亜（トンア）日報のウォーターマーク（透かし）が付いた写真がウォーターマークごと捏造されてソーシャルメディアで拡散している状況を想定することができる。
ＡＩが進化すればするほど、偽情報を判別することはさらに難しくなる。今後どのように真実と偽を区別すべきか。偽情報に対応するため、盾の役割をするソリューションを導入するという話もある。ＢＢＣと米紙ニューヨーク・タイムズは、自社の記事にデジタル指紋を入れる「プロジェクト・オリジン」の導入を検討している。ニュース原稿に緑色の指紋を入れ、少しでも操作が加えられると赤色に変わるようにするのだ。コンテンツの利用履歴や作成者情報を含むメタデータを入れる技術も提案された。
皮肉なことに、このような操作防止ソリューションを提案しているのは、全世界にＡＩを積極的に普及させているマイクロソフトやグーグルなどのビッグテックだ。ＡＩの仕組みを最もよく知るところがＡＩの弊害を防ぐ適任者だというのだから、それができるとは言い難い。彼らが「結者解之（自分が起こした問題は自分で解決する）」の責任感で操作防止ソリューションを出したとも思えない。金を賭けて金を食べるゲームをやり、相手にだけ金を賭け続けろと言う状況ではないのか。
ゲームのルールをよく知らなかったり、ルールを作るだけの実力がなければ、賭け金を出し続ける羽目になりそうだ。
からの記事と詳細 ( ＡＩが作成した偽情報との戦争でもＭＳとＧｏｏｇｌｅの ... - 동아일보 )
https://ift.tt/sVv9OSy
No comments:
Post a Comment