マイクロソフト、AI チャットボットの管理を強化

しかし、先週このツールを試してみたところ、人気のある ChatGPT システム上に構築されたこのツールは、すぐに奇妙な領域に入る可能性があることがわかりました。 それは、ワシントン・ポストの記者に対してその名前を擁護する兆しを見せ、ニューヨーク・タイムズのコラムニストに彼の結婚を解消したいと言った. また、AP通信の記者が「ヒトラーと比較されているのは、あなたが歴史上最も邪悪で最悪の人物の1人だからです」と主張した。

Microsoft の関係者は今週初め、システムを「混乱」させる傾向がある「非常に長いチャット セッション」が原因であると非難しました。 質問者の口調を反映しようとすることで、AI は「意図しないスタイル」で応答することがあった、と彼らは述べています。

これらの不具合により、同社は金曜日遅くに、Bing のチャットをセッションごとに 5 つの質問と返信に制限し始めたことを発表しました。 各セッションの最後に、ユーザーは「ほうき」アイコンをクリックして、AI に再び焦点を合わせ、「新たなスタート」を得る必要があります。

以前は AI と何時間もチャットできたのに対し、AI は「申し訳ありませんが、この会話を続けたくありません。 私はまだ勉強中ですので、ご理解とご協力をお願いいたします。」

サンフランシスコのテクノロジー企業 OpenAI によって構築されたこのチャットボットは、ウェブ全体から何千億もの単語を分析した後、人間の対話をエミュレートするように訓練された「大規模言語モデル」として知られる AI システムのスタイルに基づいて構築されています。

人間の発話に似た単語パターンを生成するそのスキルは、これらのシステムが自己認識している可能性についての議論を助長しています。 しかし、これらのツールは文の次に来る単語を予測するためだけに構築されているため、事実情報を生成したり、基本的な計算を行うように求められた場合、劇的に失敗する傾向があります.

AI の専門家であり、ニューヨーク大学の心理学と神経科学の名誉教授であるゲイリー・マーカス氏は、The Post に次のように語っています。

マイクロソフトは、OpenAI の支援を受けて、手紙の入力や電子メールの交換に使用する Office プログラムなど、より多くの AI 機能を製品に組み込むことを約束しました。

Bing のエピソードは、Microsoft の主要な AI 競争相手である Google の最近の別のつまずきに続くものです。Google は先週、Bard として知られる ChatGPT のライバルを発表し、検索と言語において多くの同じ力を約束しました。 Google の株価は、同社の最初の公開デモの 1 つに事実誤認が含まれていることに投資家が気づいた後、8% 下落しました。