画像生成AIも間違う

様々な生成AIが雨後の竹の子のように
誕生しています。

画像生成AIも、私の周りでも使う人が増えてきた
なぁ～という実感があります。


ChatGPT等に代表されるテキスト生成AIでは、
ハルシネーションと呼ばれる、正確でない情報
が生成されることがあることはよく知られています。

生成AIの仕組みをしっていれば、
当然に起こりえることなので、
注意はされていることと思います。


では、画像生成AIではどうでしょうか？


先日、ちょっとしたスライドを創るときに、
画像生成AIでも、このようなことが起きる
ということを発見しましたので、
今日はそちらを共有したいと思います。


その生成した画像は以下のようなものです。

さて、どこがおかしいでしょうか？


3本目の腕？
隠れて居ている人の手？
もしくはこの世ならざるものの手？

が一つありますね。


さらに、指が6本ある手があります。



まあ、いいか？
といえない場合もありえます。


例えば、手足の先天的な障害として、
多指症というものがあります。


使い方によっては、
その方を傷つける可能性もあります。


勿論、その他、不適切な出力をする可能性は
テキスト生成AIだけでなく画像生成AIでも
ありえるわけです。


テキスト生成AIは、ハルシネーション注意しても、
画像生成AIは油断していた・・・と
ならないように注意していきましょう。


AIが生成したものであっても、
それを公開、世に出すか否か？の責任は
私達ひとりひとりにあります。


注意すべきところは注意して,
生成AIを上手く活用していきましょう♪