#383 AIサクラ 花盛り

 IT技術の発展と共に様々な分野でAI(人工知能)が使用されています。日本では人材不足を補うために工場では製造ロボットが、ホテルでは受付嬢ロボットが活躍しています。受付嬢ロボットは一見すると人間に見えますが、顔の表情や話し方から人間ではないと即座に理解できます。
 ところが、本日AIに関するとんでもないニュースが飛び込んできました。AIサクラが登場したらしいのです。Weblio辞書によりますと、「サクラ」はもともとは露天商(テキ屋)の客引き手段として、一般客を装って店や品物をそれとなく宣伝し、他の一般客に興味を抱くように仕向ける役割の者です。昨今では行列や集会に加わって大人気・大盛況であるかのような雰囲気を盛る役割や、オンライン通販サイトや口コミサイトなどで販売者側に通じている関係者が高評価レビューを投稿するという役割などもサクラと呼ばれます。以下は読売新聞からの転載記事です。

----------
『架空の顔で「お客様の声」「大満足」…AIで生成、90サイトで宣伝に悪用』
 AI(人工知能)で作り出された架空の人間の画像が、あたかも実在するかのような形で多数の業者の宣伝サイトで使われていることが、読売新聞の取材でわかった。商品やサービスを推奨する客などを装って掲載されていた。すでに海外では悪用が問題になっており、歯止めなく使われれば、取り扱いのルールを巡って議論になる可能性がある。
 画像は、大量のデータから特徴を学ばせるAIの深層学習(ディープラーニング)の技術で精巧に自動生成できる。国内では大阪市のIT企業「ACワークス」が、イメージ写真や仮想モデルなどとしての利用を想定し、会員登録すれば無料でダウンロードできるサービスを2年前に開始。実在の客を装っての掲載などは規約で禁止していた。
 しかし、読売新聞が同社から提供を受け、103人分の画像の利用状況を調査した結果、規約に反するとみられる方法で掲載しているサイトが少なくとも90に上ることが確認された。
 健康食品や人材派遣、システム開発会社などが、「お客様の声」として「おすすめです」と述べているように載せているサイトが目立った。会社側が在籍する税理士などとして紹介していたが、記載内容自体が虚偽だったケースもあった。いずれも信頼性を高める狙いがあるとみられ、ACワークスは「画像の削除を求める」としている。
 AIの悪用を巡っては、政治家の映像などを改変する「ディープフェイク」の広がりが懸念されるが、架空の人物画像は、別の倫理的問題をはらむ。海外では、政治的主張を広める偽のSNSアカウントにも用いられているが、本人が実在しないため発覚しにくいという。日本でも偽情報や詐欺などの犯罪に悪用される恐れがある。

◎名前も年齢も◎
 <資格がある会社に頼んで良かったです>
 東北地方の遺品整理業者のウェブサイトには、そんな「お客様の声」とともに、穏やかな表情を浮かべる男性の顔写真が2枚並ぶ。
客や講師、税理士、ライターなどとして宣伝サイトで使われた架空の顔画像。一部は読売新聞の指摘後、削除された=画像は一部修整しています
 「49歳 松本さん」「55歳 安藤さん」と記された2人は、この世に存在しない。AI(人工知能)で生み出された画像だ。 「顔があればコメントの信ぴょう性が増す。名前や年齢もでたらめだが、リアルっぽくする必要がある」。サイトの運営者は、そう理由を明かした。 実際の客の写真は本人の許可を得るのが難しく、「架空の顔なら誰も文句を言わないだろう」と考えたという。作成元の大阪市の「ACワークス」は利用規約で認めていないが、運営者は「規約まで読んでいなかった」と釈明した。
 家電の通販や整骨院、資格講座……。客や受講者などを装って画像を載せていた90以上のサイトの業種は多岐にわたっており、「大満足」「新規事業を始め、資格をいかしています」といったコメントとともに掲載されていた。

◎200万枚◎
 業者側がスタッフの顔として載せ、信頼性を演出しているケースもあった。 <一流のバイリンガル教師陣です> そう宣伝する子ども英会話のサイトは、講師16人のうち少なくとも11人の顔が架空の人物だった。
 顔だけではなく、記載内容のウソも確認された。中部地方のコンサルティング会社は所属する「税理士」や「司法書士」の名前を記していたが、日本税理士会連合会などに問い合わせたところ、そうした人物は存在しなかった。
 「介護付き旅行」の予約サイトは、おすすめの観光地を紹介する「ライター」として30人以上の顔を載せているが、代表者は、名前や経歴についても「事実ではない部分がある」と認めた。ライターとされる一人の顔を調べると、他の通販サイトなど少なくとも7件で、異なる名前の客などとして使われていた。
 ネット上に架空の顔はどこまで広がっているのか。国内で提供できる企業は現時点では数少ないとみられるが、今後、生成技術が普及し、参入が相次ぐと見込まれている。
 すでに海外には無料や低料金で提供するサイトが複数あり、日本からも利用できる。「白人」「黒人」「アジア系」など200万枚以上から選べるほか、年齢層や髪の色などを調整し、利用者が好きなように顔を作り出すこともできる。
 こうした機能が使われれば、どんな顔が生成されたのか、利用者本人以外は誰もわからない。今回のように悪用を検証することも、より困難になる。
 海外では日本と同じようなケースに加え、世論操作が目的とみられるSNSの発信にも悪用されている。 フェイスブックは2019年、虚偽の米国人の名前をかたって自動的に大量投稿していた約600のアカウントを削除したと発表。トランプ大統領(当時)を支持する内容で、架空の人物の顔が含まれていた。 20年には、米国人らを狙い、ロシアや中国から政治的な主張を広めていた偽アカウントに使われていたことも明らかになった。
 別のSNSでも、プロフィルに米国の有名な大学や調査機関を記していた女性の顔や名前が架空と発覚した。米政権のアドバイザーや、英国の王立機関のロシア専門家らと接触しようとしており、スパイの可能性が指摘された。
 AIや偽情報の問題に詳しい明治大の湯浅 墾道はるみち 教授(情報法)は「日本では特に『顔写真があれば本物だろう』という信頼感を持つ人は多い。政治的意図を持ったSNSでの偽情報の拡散や、悪質商法に利用されることもあり得る」と指摘し、危機感を示す。
 「空想と現実の境界があいまいになれば、何が本当なのか分からなくなる。倫理的な線引きや規制のあり方の議論を始めるべきだ」
 私たちがネット上で目にする情報は、消費行動に大きな影響を与える一方で、知らない間に粉飾されていることも少なくない。ネット空間の虚実を考えるシリーズの第3部は、買わせるウソを生む構図に迫る。
(https://www.yomiuri.co.jp/national/20210613-OYT1T50073/)
----------

 AIの登場により様々な業種で仕事の効率化が進められ、中にはAIが企業の中枢として業務し、人間の社員が周辺に押しやられている職種もあるようです。これからもAIは急速な進化を遂げていくでしょうが、私たち人間はそれについて行くことができるでしょうか。それとも機械の奴隷としてAIに隷属するのでしょうか。
 まるで手塚治虫のマンガのような近未来の世界が近づいてきています。機械にこき使われないように、私たちは主体的に考え生きていかなければならないでしょう。そうしないと人間の文明は終焉を迎え、やがて機械に支配されたSF映画のような世界が登場します。
 嘘が嘘を呼ぶ世の中です。特にネットの世界は虚偽で溢れています。オレオレ詐欺だけでなく日頃より常に考え行動する習慣を身につけていないとAI詐欺に騙されてしまします。困った世の中になったものです。

2021年06月13日