FC2ブログ

記事一覧

AI の説明責任はどこに?

録画してあった NHK スペシャル 「人工知能 天使か悪魔か?」 を見た。

かなり早送りで。。。

AI が様々な分野で役立っている。

・ 天気予報
・ 犯罪の予知
・ 心臓移植

今後も広がっていくだろう。

役に立つのはよいことだ。


でもAI は何故その選択をしたか?

人は理解できるだろうか?

AI から提示された答えを "神の啓示" のように受け入れるしかない。

番組で指摘する通り、AI はブラックボックス。


AI が騒がれる前から高度な計算を行っている業務はある。

例えば通貨オプションの計算。

数式が入り組んでおり、「どうしてそういう判断になったのか説明するのは難しい」と話す担当者もいた。

計算結果しかない世界。

その計算結果によって業績が良くなれば結果オーライ。

悪ければチューニングする。


AI といっても大量な判断の集合体。

それを追っていくことは不可能ではないはずだが。

理解できるかは別。

重大な判断を下す場合、AI の説明責任はどこにあるのか?

それを活用する側の説明責任はどこにあるのか?




スポンサーサイト



コメント

コメントの投稿

非公開コメント