責任あるAIの原則と倫理的枠組み、そしてMedalliaがそのAIテクノロジーをどのように統制しているかをご紹介します。
人工知能（AI）は仕事の世界に革命をもたらすと期待されている。しかし、多くの人々はその人気の高まりに警戒心を抱いている。雇用の奪い合い、プライバシー侵害、倫理的リスクといった懸念は、AIに関する議論につきものだ。1800年代の織物デザイナーが自動織機を見たとしても、現代のバックエンド開発者がChatGPTを見たとしてもだ。
私たちはAIの価値とリスクを理解しているため、Medallia 、常に責任あるAIの創造を目指し、人間をループに閉じ込め、日々の仕事の流れを改善するよう努めてきました。
では、責任あるAIとは 何か？責任あるAIとは、説明責任と透明性を促進しながら、AIを搭載した機能が偏見、差別、プライバシー侵害を軽減することに焦点を当てて開発、テスト、保守されることを保証する人工知能へのアプローチである。
そして、どのように責任あるAIを導入すべきなのだろうか？まずは、すべての組織が従うべきと私たちが考える、責任あるAIを生み出すための原則を紹介しよう。
責任あるAIの主要原則
透明性
AIシステムは容易に理解できるものでなければならない。つまり、すべてのユーザーがそのプロセスと結果を理解できるものでなければならない。これには、データがどのように収集され、決定が下され、モデルがどのように訓練されるかを明確にすることが含まれる。
説明責任
組織、そしてAI開発を担当するチームは、システムの挙動と結果について説明責任を負わなければならない。AIが危害やその他の問題を引き起こす可能性がある場合、誰かが常に説明責任を果たせるよう、その状況に対処する仕組みが必要である。
プライバシーとセキュリティ
プライバシーとセキュリティは、責任あるAIの不可欠な柱である。機密情報は保護されるべきであり、強固で一貫した脆弱性テストを通じて、AIシステムとそれを監督する企業が侵害や攻撃に強いことを保証する。
倫理的なデータ利用
データが倫理的に使用・収集され、AIが偏見や差別のもとに訓練されていないことを確認するために、企業は多様なデータ収集を実施し、公正な機械学習モデルを開発し、偏見を取り除くためにデータを再処理し、人間のレビューと監視の下でAIモデルを監視・テストし、AIシステムを継続的に監視・監査しなければならない。企業は、モデルとデータ利用を評価する一連の倫理的・法的ガイドラインを作成すべきである。
責任あるAIのためのAIガバナンスの重要性
企業は、真に責任あるAIを確立するために、強固なAIモデレーションとセキュリティプロセスを監督する必要がある。これは、現在および将来のすべてのテクノロジーに適用され、法律違反を禁止し、その他の厳格な規則や規制に従わなければならない。
特に、AIがプライバシーとセキュリティに関する話題の最前線に来るにつれて、責任あるAIの使用と構築を確実にするために、あなたの組織は、独自のAIガバナンス・プロセスを扱うチームと役割を定義する必要があります。ベンダーも同様です！
一例として、Medalliaのインテーク・プロセスは以下のガイドラインに従っている：
- ドキュメント：新しいAIのユースケースについて、特徴、目的、トレーニングなどを説明。
- リスク管理：AIシステムの悪用の可能性など、予見可能なリスクはすべてフラグが立てられる。
- コンプライアンス：データの倫理的かつ合法的な使用と、適用される義務の遵守が確保される。
- 安全性、モデレーション、倫理：グローバルな専門家が、バイアスをさらに軽減するために人間中心のAIに焦点を当て、強固なセーフガードの構築を支援します。
AIガバナンス：Medallia 責任あるAIへの取り組み
Medallia社外AIアドバイザリーボード
私たちのアドバイザリーボードは、安全、安心、公正なAIソリューションを推進するため、AI政策、規制、技術においてソートリーダーシップを発揮する多様な集団です。
AI諮問委員会は、当社が対応するあらゆるユースケースの経験を持つ、顧客およびパートナーの代表者10名で構成されています。委員は経験豊富な専門家であり、Medallia エクスペリエンス・マネジメント に向けて、AIのプライバシー、倫理、セキュリティに関する提言を行っています。同委員会は、世界中の大企業および中小企業を中心に、多様な市場を網羅する構成を重視しています。
「AI諮問委員会が多様な背景を持つ人々を含むことは、我々にとって重要です」と、Medallia の製品管理担当SVPであるRahul Kamdarは述べた。「異なる視点やユニークな貢献を取り入れることで、複雑な問題を理解し、解決し、偏見を避け、倫理的な問題に対処し、すべての人に真に利益をもたらすAIソリューションを構築したいと考えています。
Medallia社内AIモデレーション協議会
社内のAIモデレーション評議会は、法律からデータ取得まで、AIの幅広い専門知識を持つ多様な専門家からなるチームです。このチームは、社内のMedallia 、当社のガバナンス・プロセスに関する問い合わせに対応しています。このチームは、AI規制、倫理、その他、人間中心で責任感があり、クライアントのために価値を生み出すことができるAIの構築に関連する、新しく差し迫った問題について、常に最新の情報を入手しています。
Medallia では、モデレーション・カウンシルがAI機能開発プロセスの重要な役割を担っており、当社の責任あるAI原則および関連する法的要件に照らしてモデルを検証しています。私たちの専門家は、共に、変化する世界における私たちのAIの成長に具体的な影響を与えることができます。AIモデレーション・カウンシルの仕事は大変ですが、どの組織も社内にチームを作って取り組むことを真剣に検討すべき仕事です。
現代における責任あるAIの確保
責任あるAIは、透明性、説明責任、プライバシー、セキュリティといった原則を包含しており、これらは倫理的なAI開発を保証するために不可欠である。
これらの原則は重要である。Medallia責任あるAIへのアプローチには、文書化、リスク管理、コンプライアンスに重点を置いた強固なガバナンスの枠組みや、偏見や倫理的問題に対処するための多様な視点をもたらす多様なAI諮問委員会が含まれます。これらの原則を遵守することで、Medallia 、すべてのAIソリューションが安全、安心、公平であることを保証します。
Medallia 、2008年に業界をリードするテキスト分析機能をリリースして以来、15年以上にわたりAIをプラットフォームの中核に深くMedallia 。当社のAIは、世界最大級のインサイト 、インサイト 大規模に展開し、誰もが活用できるようにする上で、重要な差別化要因となっています。
AIに対するMedalliaのアプローチについては、AIリーダーシップのページをご覧ください。
