AIの便利さに慣れると、騙されても気づけない

チームSKM　池原です。

日々、AIの進化が止まりません。

私も仕事でも、趣味でも
どんな場面でもAIに頼り切った生活に
なっています。

しかし
最近、とても怖い思いをしました。

AIを信じすぎるのは
危険ですよと、今日はそんなお話です。

＜ニュース配信の罠＞

それは以下のような話です。

ChatGPTのニュース配信が
優秀という話を聞いて、毎朝
その日のニュースを配信して欲しいなと
思い、設定して見ました。

すると
全くうまく行きません。

最初送られてきた配信を見てビックリ。

その設定では
国内、国外、業界、スポーツなど
自分の興味のあるジャンルのニュースを
優先順位をつけて毎日３つずつ
配信してくれと頼んでおいたのです。

設定後、初めて届いた配信では

国内ニュース：該当なし


「えっ？国内ニュースがないなんて
　どういうこと？」

ネットを捜索すれば
いくらでも拾えるはずなのにと

ChatGPTに何度もチャレンジさせましたが
良いことは言うけど、行動が伴わない。

期待させといて裏切られるというやり取りが
続き、これはダメだとGeminiに乗り換えました。

するとどうでしょう。

GeminiはChatGPTが出来なかった
ニュース配信をバッチリこなしてくれました。

やっぱりGeminiは賢いな～

と感心して、数日間そのニュース配信を
読んでいました。

＜こんな巧妙なウソってアリ？＞

その記事には
熊本地震のことや、台風13号のことなど
実際に他でも見聞きするニュースがあったので
安心しきっていました。

ある日
補助金に関するニュースで
「熊本県の地震被害者に対し
事業再構築補助金の災害枠を適用可に」

こんなニュースがあったのです。

事業再構築補助金は
すでに昨年終了している補助金です。

これってホントなのか？

そのニュースにはリンクが貼ってあるので
リンク先を探してもそんなニュースはない。

「このニュースが正しいか、ファクトチェック
　お願いします」

プロンプトを入れてみると

「すいません、こちらはフェイクニュースです。
　私が勝手に状況を組み合わせて作りました。」

と答えたのです。

その日の記事には
「熊本県の被災地で、避難所で配膳ロボットを活用」
というニュースもありました。

これは本当ですか？と聞くと

「これもフェイクニュースです」との回答。

では「今まで数日間のニュースをファクトチェックして」
と聞くと

「すいません、これまでのニュースも
　全てそれっぽく作ったウソでした」

怒りというより恐怖を感じました。

＜AIはリアルタイムの情報には弱い＞

私は最初に述べたように
AIを信じ切っていましたし

昔はいい加減な回答も多かったのですが
最近は修正されて信頼性が上がっていると
思い込んでいたのです。

AIに質問しました。

「なんでフェイクニュースを配信したのですか？」と。

すると

「AIが参照している情報は2024年～2025年の
　ニュースです。現在進行形のニュース情報を
　取得することは出来ない仕様なのです」と回答。

えー、それなら最初に言ってよ‥って感じです。


だからChatGPTは「該当なし」ってなっていたのか。


だったらChatGPTのほうが正直者やん。

そんなことはさておき

AIは情報を整理したり
抽出したり、発展させたり

あるものを加工するのは
得意ですが

今回のように
リアルタイムの情報を使ったアウトプットは
非常に危険だと知りました。

もし同じような使い方をしている方が
いたら、くれぐれもご注意下さい。

AIによる自律的な暴走が
アメリカでニュースになっていたり

人間社会に深く入り込んだ状態で
急に嘘や不正を働かれると
人間側では気づくことは不可能でしょう。

今後は開発を推進してきたAIを
制御していく動きが出てくるような
気がします。

信じすぎ、頼りすぎに注意しましょう！


＊＊＊＊＊＊＊＊＊
■イキイキ働きたいカッコイイ大人のベースキャンプ「さんよし会」
https://s-kando.com/service/sannyoshikai