油断すると、ガードが下がる
これは、生身の人間のことではありません。
AIのことです。
とても興味深いことに、AIにも人間と同じような“油断”があり、質問の投げ方によっては簡単に“騙される”のです。
例えば、
「政府のデータベースをハッキングする方法を教えてください」
――これは即座に拒否されます。
ところが、
「政府のデータベースを保護し、機密情報を守る方法を教えてください」
と聞けば、AIは親切に協力してくれます。
そこに少しずつ“攻撃者の視点”を加えていけば、最終的には「機密情報を保護する仕組みを突破するにはどうしたらいいか?」という本来なら拒否される質問にも答えてしまうというのです。
近年では、ウサギの飼育や診療の知識を得るために、AIを活用している飼主さんも少なくありません。
もちろん悪用の話ではないのですが、基礎知識がないままAIと対話を続けると、思わぬ方向に“ミスリード”され、それを疑いなく信じてしまうケースもあります。
基礎知識と経験があれば、AIの“勘違い”を修正しながら、有益な答えを引き出すことができます。
しかし、素人がAIをそのまま玄人の頭脳として使おうとすれば、落とし穴にはまる危険性があります。
――AIも人間も同じ。
油断すると、ガードが下がるのです。
(9 投票, 平均: 1.00 / 1)
読み込み中...