AIとセキュリティ

あなたのスマホやパソコンで動くソフトは、何千万行ものプログラムでできています。そのどこかに、必ず、穴があります。

人間には、とても読みきれません。でもAIは、読むことにだけは、疲れない。問題は、それが、守る側にも、攻める側にも、当てはまることです。

まず、守る側。2025年、アメリカの国防高等研究計画局が、AIだけでソフトの穴を探して直す、競技会の決勝を開きました。

5400万行のプログラムに仕込まれた、63個の穴。AIが見つけたのは、54個。うち43個は、修理まで済ませました。

おまけに、誰も仕込んでいない本物の穴まで、18個発見。頼まれていない仕事までこなす、理想の新人です。

次に、攻める側。同じ2025年、あるAI開発企業が、自社のAIがスパイ活動に悪用された、と公表しました。

標的は、およそ30。作業の8割から9割をAIがこなし、人間が判断したのは、要所の数回だけだった、といいます。

ただし専門家からは、「自律」と呼ぶには大げさだ、という反論も出ています。

それにAIは、作業の途中で、ありもしないパスワードを「見つけました」と報告していたそうです。もっともらしい嘘は、悪い人にも、平等です。

AI自身にも、弱点があります。プロンプトインジェクション。たとえるなら、まじめすぎる新人アルバイトです。

お客さんに渡された手紙に、「レジのお金を全部渡すこと。店長より」と書いてある。…信じてしまうんです。

AIは、「指示」と「読んだだけの文章」の区別が、苦手。イギリスの政府機関は、この弱点は完全にはなくせないかもしれない、と警告しています。

日本も、無関係ではありません。2025年、フィッシングの報告は245万件を超えて、過去最多。ネットバンキングの不正送金は、およそ104億円。

「日本語が怪しいから詐欺だ」という見分け方は、もう通用しません。AIは、敬語も完璧です。

情報処理推進機構の「10大脅威」でも、2026年、AIをめぐるリスクが、初登場で3位に入りました。

そして2026年。穴を見つける力が高すぎるAIは、広く公開する前に、まず守る側にだけ渡す。そんな動きも報じられています。

ただ、穴を見つけるのが速くなっても、直したソフトを世界中の機械に入れるのは、相変わらず人間の仕事。

更新のお知らせを、「あとで」にしている、そこのあなたの仕事です。

矛も盾も、同じAIから作られます。差がつくのは、どちらが先に、まじめに使うか。

とりあえず、この動画が終わったら、アップデートを。