AIは詐欺師を見抜けるか？―人間の悪意まで学ぶAI時代

世の中には、人を助ける人がいます。一方で、お金のために人の信頼につけ込み、何人もの人を騙す人もいます。AIが急速に社会へ入ってくる今、私は一つの疑問を持っています。AIは、人間の悪いところまで分かるようになるのでしょうか。

AIは「言葉」と「行動のパターン」を見る

AIは、人の心そのものを読むことはできません。しかし、話した言葉や文章、取引記録、過去の行動などから、矛盾や異常を見つけることはできます。

• 説明の内容が以前と違っている
• 通常と違う大きな送金がある
• 同じような被害報告が繰り返されている
• 契約書と口頭説明の内容に食い違いがある

こうした「おかしさ」を、人間より速く整理して知らせることは、AIが得意になっていくでしょう。

人を騙す人ほど、最初は悪い顔をしない

難しいのは、人を騙す人ほど最初から悪い顔をして近づいてくるわけではないことです。「あなたのためです」「絶対に大丈夫です」「私を信用してください」。そう言いながら信頼をつくるからこそ、人は騙されます。

AIは、人間の悪意まで大きくしてしまう可能性がある

AI自身に善意や悪意があるわけではありません。使う人の目的によって、人を助ける力にも、人を騙す力にもなります。

悪意を持つ人がAIを使えば、本物そっくりの文章、偽の人物像、大量の接触、相手に合わせた説得を短時間で行えるようになります。つまり、AIは人間の能力だけでなく、人間の悪意まで増幅する可能性があるのです。

だからこそ、AIを「人を守る側」に育てたい

大きなお金を動かす前に、AIが「この取引は通常と違います」「説明と契約内容に矛盾があります」「もう一度、第三者確認をしてください」と知らせてくれる。私は、こうしたAIこそ必要だと思います。

人間には感情があります。信じたい、急いでいる、断りにくい、自分だけは大丈夫だと思う。その感情が判断を鈍らせることがあります。AIは、そのときに冷静な第三者として働くことができます。

「人を信用する」と「確認する」は両立できる

私は、人をできるだけ信用して生きたいと思っています。最初から全員を疑う社会は幸せではありません。しかしAI時代は、信用することと確認することを分けて考える必要があります。

人を信用する。しかし大きなお金を動かす前には確認する。相手を尊重する。しかし契約内容は客観的に確認する。一人の話を聞く。しかし重要な判断は複数の情報で確かめる。これは疑うことではなく、信頼を守るための確認です。

AI時代に一番必要なのは、人間教育かもしれない

AIがどれだけ進化しても、最後にAIを使うのは人間です。「AIをどう使うか」だけではなく、「何のために使うのか」を考えなければなりません。

人を騙すためなのか。人を助けるためなのか。自分だけが儲かればいいのか。社会全体を少し良くしたいのか。AI時代になるほど、人間の人格、倫理、責任が重要になります。

AIに、人間の良心を支える役割を

AIは鏡のようなものかもしれません。人間の良い部分を映せば、人を助けるAIになる。悪意ばかりを学ばせ、悪用すれば、その力も大きくなる。

だから私は、AI時代になればなるほど、技術を育てる以上に人間を育てることが重要だと思います。AIには、人を騙す道具ではなく、人を守り、人間の良心を支える存在になってほしい。それが、これから私たちがつくるべきAI社会ではないでしょうか。