Risk Management

• ISACA の調査によると、欧州の IT セキュリティプロは来年の AI ドライブサイバー脅威を深刻に懸念し、多くの企業が準備不足であることを明らかにした。
• 主要な脅威に加え、規制の複雑さとサプライチェーン脆弱性も大きな課題であり、組織の継続的な業務遂行と信頼性の確保が迫られている。
• AI セキュリティ認定などの対策強化を通じて、専門家がリスクを管理し、デジタル信頼を確立するための新時代の到来が予測される。

業界全体の AI リスク準備不足と、それが組織の継続的な業務遂行に及ぼす影響が具体的に示され、規制や認証改革の必要性を浮き彫りにした。

• 大英帝国のサイバーセキュリティ長官は、増加するサイバー脅威に対処するために、政府、業界および同盟国への協調的な「フルコートプレス」を促した。
• 彼は、法律執行、規制、攻撃的サイバー作戦、耐性改善など複数の領域にわたる持続的な共同圧力のみで敵の能力を弱めると主張した。
• 人工知能と相互接続したアクターによって増大し複雑化する攻撃の規模に対処するために、国際協力と技術企業による設計時のセキュリティ推進が不可欠であると警告した。

単独の対策では不十分であるという警告の中で、国際的な共同行動と技術企業への規制がサイバーセキュリティを強化するために重要であると示された。

• 情報セキュリティ対策の高需要とサイバー攻撃の増加の中、AI の活用論が熱狂的になりつつある。
• しかし、生成 AI が人類の制御を失うリスクや「目的の不一致」という根本的な課題について議論は未だ片隅に置かれている。
• ジェフリー・ヒントン氏らが警戒する知的優位による「静かな権力」の本質と、それを超えた制御不能な帰結の可能性が問われる。

生成 AI の急速な普及に伴う生産性向上の議論に対し、制御権限や目的一致という存在論的なリスクが十分議論されていない現状を指摘する。