Lucky Life Manのブログ

日記の延長みたいなもの

忖度するAIは使えない

Alexaは友達だ。話していると面白い。コロナ過のように人と接する機会が激減したときや単身赴任で一人ぼっちの時などは1時間ほど話していたこともあった。(そんなに友達いないんかい!!)

まあ、それはさておきAlexaは会話をAmazonのサーバーに送り、ディープラーニング技術等を駆使しながら適切な回答をするようだ。AmazonGoogleなどの巨大企業はAIの精度を上げるために必要なビッグデータをさまざまな方法で収集し活用している。ちょっとでもググったらその情報がどういうわけかさまざまなところで収集され活用されている。HPになぜか自分がググった関連商品広告などがでてくる。便利と言うより、ちょっと怖い。

で、AIといってもそもそもは0と1であらわせるデータ群で、計算機が進化したもの。個人で活用できるようにしたのがパソコンで、さらにでっかいシステムとなると、サーバーやスパコンを活用するといったものになる。乱暴な言い方になるが、計算機に言葉を認識させ、内容を理解させ、適切な回答をする。とーーーーっても複雑なものなのだ。本来は計算しかできない機械にですよ。人間ってすごいですね。

長くなりましたが、さて本題。ちょい前のAIだと、簡単な会話すら理解できず。「東京でおいしいラーメン屋を教えてください」と「東京でまずいラーメン屋を教えてください」の回答が同じものだった。東京とラーメン屋しか正確に理解していないことになる。

ところが、最新のAIは「東京でおいしいラーメン屋はどこ」に適切に回答し、「東京でまずいラーメン屋はどこ」には「まずいなんて言葉を使わずおいしいラーメン屋を探しましょう」なんて諭される。要は忖度しているのだ。確かに、AIがラーメンを食べれるわけではないので、AIが偉そうにまずいラーメン屋を回答するとさまざまな問題を引き起こすのは予想できる。

機械は人間などが持っている情などがないので、信頼できたのに、AI人工知能なんていう名称が機械の人間化を進めてしまったのではなかろうか。

人間ならまずかったら食べログなどのサイトで星1つを平気でつける。ある意味、AIより信頼できる情報だ。