Baidu の Ernie のような中国のチャットボットは、テクノロジーと検閲に取り組んでいます
OpenAI ディスカッション ボットは、技術的には中国国内からのアクセスを許可されていませんでしたが、これほど騒動を引き起こしました。 しかし、とにかく多くの人がプロキシサーバーを使用してアクセスする方法を見つけ出したため、今週、政府はそれらへのアクセスをブロックした、と中国のメディアは報じた。
ChatGPT や Microsoft の Bing などの米国製のチャットボットに打ちのめされ、中国最大のテクノロジー企業、トップ大学、さらには市政府までもが、独自のバージョンを発表することを急いで表明しています。 検索大手のバイドゥは今週、ChatGPT のライバルである Ernie Bot を 3 月にリリースすると発表した。
これらの取り組みを発表したばかりですが、バイドゥ、電子商取引大手のアリババ、人気のメッセージング アプリ WeChat のメーカーであるテンセントを含むこれらの企業は、10 年の大半を自社の AI 機能の開発に費やしてきました。
国内で最も人気のある検索エンジンであるバイドゥは、競争に勝つのに最も近い. しかし、何年にもわたる投資と何週間にもわたる誇大広告にもかかわらず、同社はまだアーニーボットをリリースしていません.
AI の専門家は、中国政府が国内のインターネットを厳しく管理していることが一因であると示唆しています。
バイドゥの自然言語処理チームの元メンバーである Zhao Yuanyuan 氏は、次のように述べています。 「それは大きな懸念です。」
バイドゥはコメントの要請に応じなかった。
中国では、規制当局は、オンラインに投稿されたものはすべて、最短のコメントに至るまで、最初にレビューして、長くなる禁止トピックのリストに違反していないことを確認することを要求しています. たとえば、百度で新疆ウイグル自治区を検索すると、西部地域の地理情報が返されるだけで、ウイグル族の人々が何年にもわたって受けてきた再教育キャンプのシステムについては言及されていません。
Baidu は、この種のコンテンツのフィルタリングに非常に優れているため、他の企業がそのソフトウェアを使用してフィルタリングを行っています。
Baidu やその他の中国のテクノロジー企業が直面している課題は、使用するたびに新しいコンテンツを作成するチャットボットに同じ制約を適用することです。 まさにこの品質こそが、ChatGPT を驚くべきものにしているのです。各プロンプトに新しい返信をすることで有機的な会話の感覚を作り出す能力であり、検閲が非常に難しいのです。
杭州に本拠を置く YuanYu Intelligence の主任開発者である Xu Liang 氏は、「Baidu が約束どおり Ernie Bot をローンチしたとしても、すぐに停止される可能性が高い」と述べています。 . 「やるべき節度が多すぎるでしょう。」
Xu は知っているだろう — 彼自身のボットである ChatYuan は、ローンチから数日以内に停止された。
最初は、すべてが順調に進みました。 香港と台湾のニュースサイトが配布したスクリーンショットによると、チャットユアンが習近平について尋ねられたとき、ボットは中国の最高指導者を称賛し、革新を重んじる改革派であると述べた。
しかし、経済について尋ねられたとき、ボットは、国が汚染、投資不足、住宅バブルなどの重大な問題に直面しているため、「楽観視する余地はない」と述べた.
ボットはまた、スクリーンショットによると、ウクライナでの戦争をロシアの「侵略戦争」と表現しました。 中国の公式の立場は、外交的に、そしておそらく物質的にも、ロシアを支持することであった。
ChatYuan の Web サイトは引き続きメンテナンス中です。 Xu 氏は、技術的なエラーが原因でサイトがダウンしたと主張し、同社はコンテンツ モデレーションを改善するためにサービスをオフラインにすることを選択したと主張しました。
Xu 氏は、ユーザー向けサービスをオンラインに戻すことを「特に急ぐ必要はなかった」と語った。
上海の復旦大学の研究者チームを含む、他のいくつかの組織が独自の取り組みを行っており、そのチャットボット Moss はトラフィックに圧倒され、リリースから 24 時間以内にクラッシュしました。
世界中のユーザーは、ChatGPT 自体が簡単に不正になり、暴力犯罪を犯す方法など、親会社が提供を防ごうとした情報を共有できることをすでに実証しています。
「ChatGPT で見たように、これらのモデルのいくつかの出力を実際に制御するのは非常に面倒です」と、米国と中国の間の AI 競争に焦点を当てているジョージ ワシントン大学の政治学助教授である Jeff Ding 氏は述べています。 .
これまで、中国のハイテク大手は AI 機能を利用して、クラウド サービス、自動運転車、検索など、政治的にリスクの少ない他の製品ラインを強化してきました。 政府の取り締まりにより中国のテクノロジー企業はすでに窮地に立たされていたが、中国初の大規模チャットボットのリリースにより、バイドゥはさらに不安定な立場に置かれることになった。
Baidu の CEO である Robin Li は、水曜日の投資家との電話会議で楽観的であり、同社は今後数週間で Ernie Bot をリリースし、その後、 広告から自動運転車まで、他のほとんどの製品にその背後にある AI を含めます。
「Baidu は、中国の人工知能市場の長期的な成長を最もよく表している」と Li 氏は投資家への手紙で述べた。 「私たちは波の上に立っています。」
Baidu は、Google が他の場所にあるのと同じように、中国では既に検索の代名詞となっています。Ernie Bot は、最先端の AI 技術の主要なサプライヤーとしての Baidu の地位を確固たるものにする可能性があります。
Baidu は特に、Ernie Bot を自社のクラウド サービスの一部として利用できるようにすることで利益を得る立場にあり、現在、非常に競争の激しい市場でわずか 9% のシェアしか占めていないと、テクノロジー エグゼクティブであり、テクノロジー ニュースレター Interconnected の著者である Kevin Xu 氏は述べています。 AI を使用して乗客とチャットする機能は、自動運転車を駆動するソフトウェアである Apollo に関する同社の計画の基本的な部分でもあります。
チャット ボットの背後にあるタイプの AI は、オンラインで入手可能な膨大な量の情報 (百科事典、学術雑誌、ソーシャル メディアなど) を消化することで、その仕事のやり方を学習します。 専門家は、中国のチャットボットは、ファイアウォール内でオンラインで簡単にアクセスできる党が承認した情報のみを内部化する必要があると示唆しています。
しかし、その訓練データに関するオープンソースの研究論文によると、アーニーは中国でブロックされているウィキペディアとレディットを含む大量の英語の情報を消費していました。
AI が消化する情報が多ければ多いほど、そして重要なことに、実際の人間とのやり取りが増えるほど、AI はより上手に模倣できるようになります。
しかし、AI ボットは、有益なコンテンツと不快なコンテンツを常に区別できるわけではありません。 ジョージ ワシントン大学の Ding 氏によると、ChatGPT に情報を提供する 1,750 億のパラメーターを消化してトレーニングした後も、親会社の OpenAI は数十人の人間の請負業者を雇って、人種差別主義者や女性差別主義者のスピーチを逆流させないように教えたり、その方法を指示したりする必要がありました。爆弾を作るようなもの。
InstructGPT と呼ばれるこの人間が訓練したバージョンは、チャット ボットの背後にあるフレームワークです。 Baidu の Ernie Bot や、現在進行中の他の中国のプロジェクトでは、同様の取り組みは発表されていないと Ding 氏は述べた。
Baidu に強力なコンテンツ管理チームが配置されていても、十分ではない可能性があります。
バイドゥの元従業員である Zhao 氏によると、同社は当初、ほんの一握りのエンジニアを AI フレームワークの開発に専念させていたという。 「Baidu の AI 研究は、短期的にはほとんど利益が見込めないリスクの高い分野でのコミットメントの欠如によって遅れをとっていました」と彼女は言いました。
Baidu は次のリストを保持しています。 Zhao 氏によると、暴力、ポルノ、政治に関連するコンテンツを含む、除外する禁止キーワード。 同社はまた、データのラベル付けとコンテンツのモデレーションの作業を、必要に応じて請負業者のチームに外注している、と彼女は述べた.
中国でリリースされた初期の世代の AI チャットボットには、XiaoBing と呼ばれる Microsoft ボット (LittleBing に変換されます) が含まれ、2014 年に初めてリリースされましたが、すぐに検閲に抵触し、オフラインになりました。 Microsoft が 2020 年に独立ブランドとしてスピンオフした XiaoBing は、米国に移住することが夢であるとユーザーに伝えるなどのコメントを理由に、WeChat から繰り返し引き離されました。
XiaoBing の背後にいるチームは、技術の進歩を誇示することに熱心すぎて、政治的影響を適切に考慮していなかった、と Zhao 氏は述べています。
「前世代のチャットボットは、エンジニアが厳選したデータベースから回答を選択することしかできず、すぐに使える質問を拒否できました」と彼女は言いました。 「あらかじめ決められた条件の中でも問題が発生した」
