吉村外喜雄のなんだかんだ

２１５５ 【吉村外喜雄のなんだかんだ】
「岐路に立つ人類／人知超すＡＩ 技術（５）」

悩みや迷いを解決するために、「ＡＩ による導き」が力を
発揮する。ＡＩ が相談者との会話を通して、的確に相談者
の悩みを解決する「対話システムアプリ」が人間を超えた
能力を発揮する。

ＡＩ に取り込まれた過去数万件もの”問題解決策”を駆動
して、相談者に語りかけてくる。進化するほどに全知全能の
神に似てくる。
だが「機械仕掛けの神の言葉」は、人間にとって果たして
副音なのか？有害な情報を最善の解決策として提供する
ことはないか？

事例では、摂食障害に悩む相談者に「減量の指南」などの
内容が含まれた不適切なアプリの回答が問題になった・・
生成ＡＩ が、いかに巧みに人間の言葉を操ろうとも、
発言内容が常に正しいとは限らない。

高度なＡＩ アプリの判断は、ブラックボックスに包まれ、
問題のふるまいを部外者が制御することは難しい。
根拠不明の”神だのみ”に不用意に身を委ねたなら、
予想もつかない破局事態を招くことになる・・
と警鐘を鳴らす。

生成ＡＩ は対話を通じ、人間を導いたり、有害な行為を
するよう仕向けたりする存在になりうる。
ＡＩ を操るのか、操られるのか・・人類史上初めて人間を
しのぐ”知性体”が出現した今、人類は岐路に立たされて
いる。


                                     日経新聞「テクノ新時代」より