AI技術の進化によって、個人の属性データや行動履歴データから、その人固有の嗜好や思惑を推定する「プロファイリング」が発展した。うまく利用すれば、顧客に最適化されたサービスを提供でき、企業と顧客の双方にメリットをもたらす一方で、企業のみに利するような使い方をすると、顧客との信頼関係を揺るがしかねない問題に発展することがある。最近でも、求職者個人の行動履歴などから推定される内定辞退率の販売が問題となった。技術革新による個人データ利活用は日々進んでおり、様々な企業で他人事ではない。
AIによるプロファイリングで生じるリスクを低減するために何が必要か――。
まず、１点目は、企画段階から法的、倫理的な観点でレビューする仕組みだ。近年では企業においてAIの実用可能性を評価するためにPoC（Proof of Concept）といった形式で各部門が独自に取り組み始めることも多い。様々な部署がAIを利用するようになったため、その使われ方を第三者的な観点からレビューを行う全社的なルールと組織が必要だ。特に、現時点では規制が成熟化しておらず、AIプロファイリングに関わる法規制だけ遵守すれば社会的追及を受けないというわけではない。企業としての顧客への姿勢や社会情勢も踏まえたルール作りが求められる。
２点目は、データ提供者である顧客たちとの、AIプロファイリングに関する継続的なコミュニケーションだ。つまり、データ取得の際に説明する「利用目的」について、これまではできる限り汎用的なものを指定し、一度取得したデータを多様な目的で再利用できるようにすることが一般的であった。しかし、最新のAI技術は顧客の機微な情報も推定できると社会的不安が高まっており、従来のコミュニケーション方法では不十分である。顧客の不安を払拭し信頼関係を維持するためには、AIの使われ方を具体的に説明しながら、継続的に利用への同意を確認する、新たな顧客とのコミュニケーションスタイルが必要となるだろう。
AIによるプロファイリングはビジネスに大いに資するものの、それを利用するためには大きな責任が伴う。そのことを認識し、しっかりとした責任を果たせる、いわば「AIガバナンス」の体制を構築することで、自信をもってAIの活用へと邁進する日本企業がこれから増えていくことを期待する。
関連するリンク
▼日本企業におけるAIのビジネス実装の勘所https://www2.deloitte.com/jp/ja/pages/deloitte-analytics/articles/ai-business-application.html
▼人工知能（AI）とリスクマネジメントhttps://www2.deloitte.com/jp/ja/pages/deloitte-analytics/articles/ai-risk-management.html
