フロイドの狂気日記

時は流れ、曲も終わった。もっと何か言えたのに。

PR

AIが判断できない人間の悪意

 


イギリスの大学進学に書類を6割ぐらいは揃えた。今月中には申し込んで合否待ちの状態になる。


いよいよ未知の世界に踏み込むのだなあと思いつつ英語が心配だ。
結局コンピューターサイエンスを専攻することになったので修練を積んでから何を作りたいかも想像する。
僕の作りたいソフトウェアはたくさんあるが、今の僕で作れるものはほとんどない。


今ホットな人工知能とデータサイエンスに可能性を見出している。大学でもそこを中心に勉強したい。特にデマやウソを見抜くソフトウェアは作れないものか、と思ったりする。そこで妄想するわけだが、こりゃあ無理じゃねえかな、と思う。


見分けられないウソやデマ、総じて悪意と呼ばれるものは何か。
大阪で最もポピュラーなやり取りを見ればわかりやすい。


ぼく「おばちゃん、うまい棒一本ちょうだい」
おばちゃん「100万円やで」
AI「こんなん、暴利やろ」


こういうやり取りをAIが額面通りに受け取れば、単なる詐欺事件。悪意だ。
だがたいていの人はこのやり取りを見れば冗談だと判断するだろう。


だがこういうケースはどうか


おばちゃん詐欺師「この羽毛布団。100万円やで」
AI「こんなん暴利やろ」


詐欺の典型商品である。怪しい場所で話術をもって羽毛布団を買わせようと思うのは当然詐欺だ。だが文章だけでどうやって判断するのだろう。原価だけで言えばうまい棒の方が安い。同じおばちゃんでも羽毛布団売りを詐欺と判断して、うまい棒を冗談と判断する基準は何か。


場所とさらなる属性だ。


駄菓子屋で「うまい棒100万円」は冗談。
田舎の特設会場で「羽毛布団100万円」は詐欺。


今の時代AIはデータ学習で製造されたものなので、属性データを加えることで悪意の判定は可能そうだ。だが次の場合は?


田舎の特設会場で「職人が作った超高級ダウン100%で刺繍に金糸を使った羽毛布団100万円」


これならどうか。本当に100万の価値があるなら悪意とは言えない。
AIならその価値を判定できれば悪意か本当の価値かを判断できそうだ。


田舎の特設会場で「職人が作った超高級ダウン100%で刺繍の金を使った羽毛布団100万円」と言っているだけの安い羽毛布団。


この前提なら材質を見破れなければ妥当な価値かどうかを判断できない。
属性を増やせば判断できるとしても、属性を偽装されたら判断できないのではないか。


目下僕らの業界が開発しているのはwebブラウザやサーバーで動くソフトウェアである。
羽毛布団の素材をAIで見分けるハードウェアを作るより、職人が判定したほうがはるかに安上がりそうだ。


ここはさらにAIが動く現実的な形で想定してみよう。
webブラウザで見ている情報の悪意を見抜けるか、という想定で考える。


あるネットショップが「高級羽毛布団100万円」で売っている。
これは本当にその価値があるのか、という判定だ。
安物を悪意を持って高値で売っているかもしれない。
商品紹介欄はあたかもそれらしく書いてある。
AIはどのように判定するか。どのようなデータ解析が必要だろう?
実物はない。買うまではわからない。


商品説明だけでは判断はできない。悪意があればそれらしく紹介するのだから。
必要なのはまずそのサイトの信用数値だ。


もしインターネット全体を検索して、そのネットショップの悪評だらけだったら羽毛布団も何かしら問題があるととらえるかもしれない。
しかし悪評がライバル店の工作だったら?
あるいは悪評と好評が拮抗していたら?
好評だらけだが該当ショップの自作自演だったら?


こんどはその悪評や好評を書いているサイトの評価をせねばならない。
こうなると人間では不可能だ。超マシンで連鎖的に信用評価をどんどんしていく必要がある。
Googleはサイトその者の信用評価をしている。
いわゆるページランクというやつだ。
しかしこれはかなり大雑把だ。


例えばみんなが使うAmazonというウェブサイトは信用評価は高い。
だからGoogle検索結果もAmazonを優先する。
しかし、だ。
Amazon内で販売しているマーケットプレイス業者やひとつひとつの商品はどうか。
中にはろくでもないものや、ろくでもない業者がある。
そこまで判断できないからこそ、ろくでもない製品がマーケットプレイスに並んでいるのだ。


僕はそういう一つ一つの悪意みたいなものを暴けるんじゃないかとは思うが
想像するだけでもすごいスペックのサーバーが必要だなあと思う。


人間なら勘や経験で判断して逆の解釈が可能だが、AIはそれ以上のことが可能だろうか。
結論は多分できる、だがそれまでにはマシンスペックと大量のデータが必要になりそうだ。
データの正誤を確認するために、紐づくデータを取得し、さらにそのデータの正誤を確認する。
無限の連鎖だ。だがその繰り返しで正誤や悪意の塊を表現できそうだ。


人間もかなり騙されたり判断を間違えるので、AIがそこを補完していく隙間はあるだろう。
どうせ騙されるんだからAIの進歩にかけるというのは間違った選択でもない。


人間の情報処理に限界があるならば、AIの進歩に人類の幸福がかかっているといっても過言ではなかろう。