デイフェンダーXは、フィリピンのカジノで導入されていますが、2017年1月30日の日本経済新聞の記事で、運用されていることが載っています。
フィリピンのマニラ市内にあるカジノで天井に50センチごとにカメラが設置されている。このカメラこそディフェンダーXにつながるカメラで、不正を犯しそうな人を事前に把握するために使われている。もちろん楽しむお客はもちろん、ディーラーの女性も知らずに運用されている。
10万人の映像データを解析し顔や体の細かい揺れから怪しい人物を特定と、説明内容からも使用されている監視システムがディフェンダーXであることが分かる。 不審者として検知されるのは1日に10人程度。検知後は重点監視の対象としてチェックしている。ここでポイントは、客だけでなく働くディーラーも同時に監視し、不正行為の防止を行っている点だ。
記事では、こうした社会にAIが浸透し様々な場面で人を監視することが、人権侵害の恐れがあると警鐘を鳴らす。
アメリカで運用されるある防犯システムは過去のデータから分析すると白人より黒人を怪しいと判断する比率が高いという。
また、日本の企業では休職する可能性が高い社員をAIで割り出すシステムを発売。業務の様子や残業時間から判断しており、管理者に知らせて業務を分散するなどして休職を防止するのが目的だという。人事評価につながりかねないというジレンマもあるようだ。
AIと人間の共存へ向けどのようなルール作りをし、不公平のない社会をつくるのか、人間が問われている締めている。
※上記記事は、日本経済新聞にい掲載された記事をもとにエルシス東京により要約した文章となります。
参照:2017年1月30日 日本経済新聞 14版 「AIと世界 理想社会の落とし穴」
上記は、日本経済新聞に掲載された内容をエルシス東京にてまとめた文章となります。