生成AI（人工知能）が急速に発達し、偽音声や偽動画が選挙介入に悪用される懸念が世界で広がっている。選挙の混乱は民主主義の基盤を揺さぶりかねず、社会全体で備えを急ぐ必要がある。
米ニューハンプシャー州では1月、バイデン大統領になりすまし、大統領選の予備選への投票を控えるよう呼びかける自動音声通話が相次いだ。AIで生成した偽音声を使ったとの見方が有力だ。
2024年は米大統領選に加えて、インドや欧州連合（EU）などで国政選挙が予定されている。米シンクタンクのセンター・フォー・アメリカン・プログレスによると、50カ国で20億人以上が投票する見通しだ。
SNSを悪用した選挙介入は16年の米大統領選で表面化した。24年は選挙イヤーに生成AIの急速な発達が重なり、「ディープフェイク」と呼ぶ精巧な偽音声や偽動画が使われる危険性がかつてなく高まっている。
対策としてまず重要になるのは、一人ひとりの有権者が警戒を強めることだ。SNSに流れる情報をうのみにせず、原典に当たって調べたり、複数の情報を比較したりといった基本を徹底すべきだ。刺激的な情報を反射的に共有しないといった姿勢も要る。
ただ、ディープフェイクは精巧になる一方で、一人ひとりの対応には限界がある。
米X（旧ツイッター）などのSNS運営企業は大規模なリストラで投稿を監視する体制を縮小したが、人員の拡充やAIを利用した対策の強化が急務だ。利用者が多い英語だけでなく、他の言語でも対応を急ぐ必要がある。
米オープンAIは選挙活動で自社が開発した生成AIを使うことを禁止し、米グーグルや米メタも広告での利用を規制すると表明した。各社がこうした取り組みを広げるとともに、悪用を防ぐ技術の開発などで企業間連携を深めることの重要性が増している。
実効性を高めるためには規制当局の関与も欠かせない。既存の法律の枠組みを活用するのが近道となるが、必要に応じて新たな立法も検討すべきだ。
20年の米大統領選では結果の正当性をめぐって米世論の分断が深まり、民主主義の揺らぎを印象づけた。こうした事態が広がるのを防ぐため、あらゆる手段を尽くして生成AIの悪用を食い止める必要がある。
