AI（人工知能/ディープラーニング）
GoogleのAI

Googleの生成AI「Bard（バード）」の表示に大きな変化、人間のレビュアーが対応する可能性あり

2023.07.17
この記事は約3分で読めます。

Googleの生成AI「Bard（バード）」のGoogleの生成AI「Bard（バード）」の表示に変化があります。
「品質向上のため、人間のレビュアーが Bard との会話を処理する場合があります。センシティブな情報を入力しないでください。」という表示がされるようになりました。
これはどういうことでしょうか？

Googleの生成AI「Bard（バード）」の表示に大きな変化

Bard

Googleの文章生成AI「Bard」

‎Gemini - chat to supercharge your ideas
Bard is now Gemini. Get help with writing, planning, learning, and more from Google AI.
gemini.google.com

に以下のような表示がされるようになりました。

Googleの生成AI「Bard（バード）」の

この「詳細」を見ると以下のような内容でした。

Bard の会話を人間がレビューする必要があるのはなぜですか？

Google は、Bard ユーザーとの会話を活用することで、Bard をすべてのユーザーにとってより安全で、より有用で、より良いものにしたいと考えています。人間によるレビューは、モデルを改善するプロセスにおいて不可欠なステップです。人間によるレビュー、評価、書き換えを通じて、人間の手助けにより Bard の回答を補強し、品質をさらに向上させることができます。

Google は、この人間によるレビューのプロセスにおいて、プライバシーを保護するためのさまざまな対策を講じています。レビュアーに表示される会話は、どのユーザー アカウントにも関連付けられていません。また、人間がレビューするサンプルは無作為に抽出し、Bard との会話全体ではなくその一部のみをレビューするようにしています。

たとえば、まず、訓練を受けた人間のレビュアーが会話の内容を確認し、ユーザーが入力したメッセージとの関連で Bard の回答を評価して、品質が低くないか、不正確でないか、有害でないかなどを判断します。次に、訓練を受けた評価担当者が、複数の定義済みポリシーに照らしてより品質の高い回答を提案します。これらは、将来の Bard の回答の品質向上のために、Bard の学習に使用するより良いデータセットを提供するための微調整用のデータとして使用されます。

2023年7月13日に大きな更新

また、2023年7月13日に大きな更新があります。
長文でしたので該当箇所だけ引用します。

‎Bard の最新情報 (google.com)

2023 年 7 月 13 日

Bard の回答の書き換え

更新内容: Bard の回答を書き換える場合に役立つ 5 つの新しいオプションを導入しました。タップするだけで、回答をよりシンプルにしたり、長くしたり、短くしたり、専門的な表現にしたり、くだけた表現にしたりできます。
理由: 回答としては十分だが、ちょっとしたひねりが必要な場合に、簡単に希望どおりの回答に近づけることができるようにしました。

このように、AIの自動生成の回答をそのまま表示するだけでなく、Google内部の人間がチェックするかもしれないという運営方法に変わりました。

人間がこのような対応をするということは相当な工数がかかります。それでもそのゆおな措置を実施して回答品質を向上しようというところにGoogleの本気度を感じますね。

Bardの回答パターンも変わりました

Bardの回答パターンも変更になっています。

主な変更点は以下の３つだということです。

・より有益で包括的な回答をするように努めています。

・より創造的なテキスト形式を生成できるようにしました。

・ユーザーの指示をよりよく理解し、それに従うようにしました。

ますます進化しているようです。今後の生成系AIの進化に目が離せませんね。