２２７７超高度な知能を手にしたＡＩの行き先は？

２２７７　「吉村外喜雄のなんだかんだ」
「超高度な知能を手にしたＡＩの行き先は？」

ＡＩ開発企業がビジネスを優先し、安全が
おろそかになることへの懸念が拭えない。

ＡＩが全ての人々の生活をよりよくすること
を期待しているが、心配なのは悪い結果を
もたらす可能性もあるということです。
大量の情報を効率的に処理できる生成ＡＩを
導入すれば、複雑な課題を瞬時に処理できる

ＮＨＫ早碁の対局で、相手棋士が考え抜いて
指した１手に、ＡＩは瞬時に次の最適一手を
テレビ画面上に表示し、教えてくれる。

複数の売り手と買い手の交渉を、ＡＩに任
せて利益を競わせた。
取引不成立の際には、保険金で補う仕組みを
導入したところ、ＡＩはその仕組を悪用する
共謀相手を見つけ出し、不当に保険金を得た
また、複数のＡＩに販売価格を競わせた実験
では、互いの利益を最大化するために、
ＡＩ同士が意図したわけでもないのに、
談合したかのような価格設定になった。

生成ＡＩは、膨大なデーターから特徴的な
要件を抜き出して、学習する傾向がある。
その結果、ＡＩが作成するデーターに偏りが
生じ、繰り返し学習すると、最後には現実と
かけ離れてしまう。

ＡＩが目標を達成することだけを考えれば、
人間の目を盗んで不正を犯す手段を選ぶ
危険性もある。
ＡＩの活動が、社会の規範を逸脱していない
かを確認するために、ＡＩが使われるだろう

読売新聞「生成ＡＩ考」