47％がボットと人間の判別困難に

ソーシャルメディア上で展開される議論において、人工知能を用いた自動投稿アカウント（ボット）と実在する人間を判別することが極めて困難になっている様相が、最新の実験によって浮き彫りとなった。オランダに本社を置くサイバーセキュリティ企業であるSurfshark B.V.が、マルメ大学のインタラクションデザイン専攻の修士課程の学生たちと共同で実施した1週間にわたる模擬SNSプラットフォームによる実験によると、参加者の47％がボットを正確に識別できなかった。Surfsharkのシニアプロダクトマネージャーであるユスタス・プキス氏は、テクノロジーの進化に伴って偽アカウントが人間のプロフィールへより自然に溶け込むようになるため、識別困難なユーザーの割合は今後さらに急速に増加すると警鐘を鳴らす。

大手プラットフォームが毎年削除している偽アカウントの総数は63億件を突破しており、これは世界で1年間に誕生する新生児数（約1億3,500万人）の約47倍に達する規模である。数十億単位のボットがネットワーク上を流動するなかで実施された今回の「Bot or Not（ボット オア ノット）」と呼ばれるインタラクティブシミュレーションには、710人分のデータが分析対象として収集された。その結果、実際の人間を誤ってボットと判定する回数よりも、正しくボットを見抜いた回数の方が多い参加者は全体の53％にとどまり、残る半数近くが欺瞞を見破れない実態が証明された。なお「Bot or Not」ゲームは現在オンライン上で一般公開されており、誰でも参加することができる。

調査結果のなかでも特に注目される要素は、投稿のテーマや議論の性質によって人間の判別能力が著しく変動する点である。政治や社会問題といったセンシティブな話題に接触して人々の感情が強く揺さぶられた瞬間、ボットを検出する精度は明確に低下した。例えば、移民問題を巡る政治的な議論におけるボット検出率は54％まで落ち込み、判定精度も63％に下がり、本物の人間の投稿をボットによるものと誤認する事例が増加した。さらに女性の権利に関するトピックにいたっては、ボット検出率が49％にまで下落し、正しく見抜いた数よりも見逃した数の方が多くなるという最も深刻な結果を記録した。同トピックの判定精度も61％まで低下し、実在する人間の投稿を「ボットによるもの」と誤認する割合が最も高くなった。

対照的に、感情的な対立が起きにくい技術的な話題では人間の識別能力が正常に機能する傾向が見られた。データセンターに関する議論においては、参加者は71％という高い確率でボットを正確に見抜き、判定精度も76％の水準を維持した。Surfsharkの調査責任者であるルイス・コスタ氏は、感情を刺激されない環境下ではAIボットの識別率が向上するだけでなく、実在する人間を誤って排除する危険性も低くなると分析する。同氏は、自動化された偽情報や欺瞞に対抗するために不可欠な要素は高度な文章分析能力ではなく、議論が過熱した際にも冷静さを維持し、自身の感情的な弱点を自覚することであると付け加えた。

日常的な防衛策として、プキス氏は、SNS上の情報を必ず再確認すること、見知らぬユーザーの投稿を鵜呑みにしないことを求める。また、賞品の当選をうたうメッセージや不審なリンクへの誘導、「家族が事故に遭いました！」といった不安を煽る文面には特に警戒する必要があると指摘した。さらに、メールやSMS、ウェブサイトの内容を分析できる詐欺対策ツールを日常的に利用するなど、基本的なデジタルセキュリティ対策の重要性も強調している。これに関連して、同社は学生や研究者、サイバーセキュリティ啓発活動に取り組むクリエイターなどを支援するための「サイバーセキュリティ啓発支援基金（Cybersecurity Advocacy Fund）」を創設し、年間最大10万ユーロの資金を提供する仕組みを整えた。次回の募集は2026年9月に開始予定である。今回の実験プロジェクトは、ミラノデザインウィーク内で開催された世界中の大学が参加するデザインコンペティション「UNFOLD exhibition」にも出展され、2026年4月20日から26日にかけてミラノ現地で一般公開展示が行われた後、収集データの分析を経て、同年5月19日に研究結果が公開された。