〈超知能〉迫る大転換(4)良質データだけで育つ精鋭AIーへのコメント

今回は日経新聞の超知能特集の4回目、「〈超知能〉迫る大転換(4)良質データだけで育つ精鋭AI」へのコメントです。

今回の記事はやや小ぶりな印象ですね。

LLMに学習させるデータを人間が選別して、バイアスがおこらないように学習させているという記事です。こういった内容は、専門家の間では、GPT-2ぐらいのときにはもう共有されていたものです。

画像生成AIが「消防士」という指示に対して、白人男性ばかりを生成したり、マイクロソフト製のチャットボットTayが、ユーザーからのインプットを学習した結果、差別的な言動を繰り返すようになり、わずか１６時間でサービス停止になりました。

AIに学習させるためのテキストを書く仕事についても、結構前から存在は知られています。今のLLMは人間が書いたものから学習したもの以上にはならないということです。

よく誤解されているのですが、生成AIは自動的に学習して賢くなっていくようなシステムではないということです。人工知能とは、字のごとく、人間ががんばって作る知能です。AIの作成にはかなりの人手がかかっています。与えられたプロンプトに従って、攻撃的な返答をしないように、インストラクションチューニングという学習もします。

私としては今ひとつ冴えない記事だな、という印象です。