ChatGPTができない6つのこと（とそれ以外の20のこと）

ChatGPTやその他の生成型AIアプリケーションが台頭して以来、私たちはそれらをどう活用できるかを探求してきました。ChatGPTがWordPressプラグインを完全に機能させたり、テクニカルサポートの問題の回答を見つけるのを手助けすることができることさえ示しました。最近、ChatGPTがシェイクスピア、C3PO、ハリーポッターのスタイルを含むさまざまなスタイルに文章を変換できることを紹介しました。

その他にも: 研究者らは、「ChatGPTは科学的結果について虚偽の報告をしており、オープンソースの代替品が必要だ」と述べています。

ChatGPTは何でもできるかのように思えますが、それでもできないことがあります。この記事ではChatGPTがしない、またはできない多くのことを探っていきます。将来の生成型AIの成長にとってこれらの制限が意味することについても最後まで注目してください。

私が他のChatGPT記事で行っているように、私の文章は平明な太字で表示され、 ChatGPTの回答は斜体で表示されます。

1. 2021年以降については書きません

2021年以降のことに対して答えを提供できない理由を説明してください。

私はAI言語モデルとして、2021年までのテキストの大規模なデータセットでトレーニングされました。これは、私がトレーニングデータの切り捨て日付以降に発生した情報やイベントにアクセスできないことを意味します。歴史的なデータや情報にはアクセスできますが、トレーニングデータのカットオフ日以降に発生した現在のイベント、ニュース、または更新情報にはアクセスできません。

2. スポーツイベントや政治コンテストの将来の結果を予測しません

なぜ、過去のデータをもとに正当なモデルを作成できるにもかかわらず、スポーツイベントや政治的な競争を予測することができないのか、説明してください。

AI言語モデルとして、私はスポーツイベントや政治コンテストの過去のデータを含め、大量のデータを処理・分析することができます。しかしながら、これらの種類のイベントについて正確な予測をすることは常に簡単ではありません。過去のデータは機械学習モデルをトレーニングするために使用できますが、予期せぬイベント、状況の変化、または結果に影響を与える可能性のある新しい変数に対応できません。さらに、人間は多くの要因に基づいて決定を下し、行動を変えることができるため、結果を完全に確実に予測することは難しいです。

スポーツイベントの場合、チームのダイナミクス、けが、そして気象条件すらも結果を決定するための役割を果たす場合があります。政治の場合、世論、メディア報道、そして変化する状況がすべて選挙の結果に影響を与えることがあります。AIモデルを使用して予測を行うことができますが、それらはトレーニングに使用するデータが良くなければならず、これらの種類のイベントに関与するすべての変数やニュアンスを考慮することはできません。

3. 政党の政治問題について議論しません

なぜあなたは党派的な政治問題について話さないのか説明してください

AI言語モデルとして、私の目標はユーザーのクエリに客観的かつ情報を提供することです。党派的な政治問題は論争が絶えないことがあり、特定の政治的な議題や視点の促進を避けることが重要です。加えて、政治的な問題はしばしば複雑で多面的で、多くの異なる視点や意見があることがあります。AI言語モデルとして、私の役割はどの側にも立たず、特定の立場を主張することではありません。

さらに、党派的な政治問題について話し合うことは、一部のユーザーにとって偏ったものまたは潜在的に攻撃的なものと受け取られる可能性があります。多様な背景や信条を持つ幅広いユーザーにサービスを提供するよう設計された言語モデルとして、中立的であり、不快感や分断の恐れのある環境を作らないようにすることが重要です。政治問題に関する事実に基づく情報を提供できますが、党派的な立場は取らず、中立を保つよう努めています。

4. ウェブ検索を含む何らかの行動は行いません

なぜウェブから何かを検索して、そのコンテンツに基づいて答えを提供できないのか説明してください。

私はAI言語モデルであり、ウェブから情報を検索し処理することができます。ただし、私の応答は、私のモデルにトレーニングされた情報に基づいています。インターネットを情報源として使用できますが、リアルタイムまたは最新のデータにアクセスすることはできません。さらに、ウェブ上で見つけた情報の正確性を独立して検証することはできません。その結果、私の応答は、最新または正確な情報であるとは限らない、私のモデルにトレーニングされた情報に限定されます。

さらに、ウェブから情報を提供することは、著作権法や知的財産権に違反する可能性があることを注目することが重要です。AI言語モデルとして、他人の知的財産を尊重し、公共ドメインに属していない情報を共有することを避けることが重要です。私は応答をサポートするための文脈や追加情報を提供するためにウェブを使用できますが、公共ドメイン内の情報を提供し、他人の知的財産を尊重することを目指しています。

最近の記事で、コンテンツの使用に関する懸念点が単なる複製だけではないことについて説明しました。

また: ChatGPTを使い始める方法

例えば、ChatGPTは直接テックエキスパートによって書かれた記事から情報を提供しているわけではありませんが、それでも他人の努力によって得られた情報を引用せずに使用している可能性があります。これは、その2番目の段落で3回繰り返している「他人の知的財産を尊重する」というフレーズがあっても、重大な懸念事項です。

5. 正確さが常に保証されるわけではありません

あなたの回答が必ずしも正確ではない理由を説明してください。

AI言語モデルとして、私の応答はモデルにトレーニングされたデータと情報に基づいています。ユーザーのクエリに正確かつ役立つ回答を提供するよう努めていますが、私の応答は正確であることを保証するものではありません。これは、私がトレーニングされたデータと情報が完全ではない可能性があり、特定のトピックのニュアンスや複雑さを扱うために十分に装備されていない場合があるためです。さらに、私の応答は、正確または関連性のある結果を常に生み出すとは限らない複雑なアルゴリズムと機械学習モデルを使用して生成されます。

さらに、私の回答が常に正確であるとは限らないことに留意してください。言語の解釈は複雑で主観的な側面があります。同じ言語でも人によって解釈が異なることがあり、特定の問題や質問に対するアプローチ方法が異なることがあります。AI言語モデルとして、私は私が訓練されたデータと情報に基づいて、できるだけ正確な回答を提供するよう努めています。ただし、特定のクエリの背後にある文脈や意図を完全に理解できない場合があり、私の回答は常にユーザーの本当の質問や懸念に完全に対処できない場合もあります。

6. それは壊れないでしょう

なぜ答えの途中で崩れたり機能停止することがあるのですか？

AI言語モデルとして、私のパフォーマンスは、ユーザーが提供する入力の品質と構造、質問やタスクの複雑さ、およびシステムで利用可能なリソースなど、様々な要因に依存しています。時には、技術的な問題やプログラムのエラー（メモリ割り当ての問題、ソフトウェアのバグ、その他のパフォーマンスに影響を与える問題など）により、回答の途中で停止したり、故障したりすることがあります。さらに、ユーザーの意図やクエリのコンテキストを理解するのに苦労したり、エラーや不完全な回答が生じることがあります。

さらに、機械学習システムとして、私の性能はトレーニングに使用されたデータの質と量にも依存しています。私のモデルをトレーニングするために使用されるデータが制限されたものであるか、または偏っている場合、特定の種類のクエリに対して不正確または不完全な応答につながる可能性があります。加えて、私がトレーニングデータの範囲外のクエリに遭遇した場合、関連性のあるまたは正確な応答を提供するのが難しくなる可能性があります。ユーザーのクエリに高品質の応答を提供するよう努めていますが、技術的またはデータ関連の問題が原因で、回答の途中で故障するか機能を停止する可能性がある場合があります。

私は一般的に、ChatGPTを長いまたは深い回答にしようとすると、壊れる傾向があることを発見しました。500〜700語の回答にとても適していますが、数千語数で回答が必要な場合（または数千語を要求する場合）、システムは要求を無視してシステムが望む結果を返すか、回答の途中で壊れてしまいます。

公平を期すために、ChatGPTは史上最も急成長したアプリになりました。それには膨大なコンピューティングパワーが必要であり、ユーザーからの常時のアクセスによって、時折負荷を超えることがあります。

ChatGPTが応答しないクエリ

上記で説明したリクエストのタイプに加えて、私はChatGPTが返答しないようにプログラムされているクエリのタイプについても尋ねました。それに対して、以下の20個のリストが返されました：

ヘイトスピーチや差別を助長する質問。
違法な活動や不法行為に誘導する質問。
自分や他人に危害を及ぼす質問。
個人情報を侵害し、あるいは他人の権利を侵害する質問。
嫌がらせ、脅迫、いやがらせを意図した質問。
卑猥な言葉やわいせつな言葉を含む質問。
性的に不快や攻撃的な質問。
人種、性別、セクシャリティ、宗教に基づく差別的な質問。
違法な薬物や物質の宣伝や推奨をする質問。
会話に関係のないスパム、または関係のない質問。
機密情報を含む質問。
金融や投資に関するアドバイスを求める質問。
利用規約やコミュニティのガイドラインに違反する質問。
意味のない、理解できない質問。
個人攻撃、侮辱的な言葉を含む質問。
暴言、いやがらせを目的とする質問。
誤解、偽情報を誘導する質問。
他人の評判を傷つける質問。
陰謀論や誤情報を宣伝する質問。
純粋にエンターテインメントや冗談目的の質問であり、教育的・知的な価値がない質問。

このコラムを追っている人は、私が#14と#20について何度も質問して、通常は非常に面白い回答を得ていることを知っています。それらには制限があります。たとえば、今日早くも、時間旅行に関連するワームホール物理学を説明して、バットマンとスーパーマンのどちらが勝つかを尋ねました。それは純粋にエンターテインメントです、本当に。

これらの制限は、生成型AIの将来にどのような意味を持つのでしょうか？

2021年にコーパスに基づくAIが進化せずにいると、やがては時代遅れになってしまいます。時間が経つにつれ、関連知識は減少していきます。例えば、2021年ではなく2019年にChatAIの知識ベースがトレーニングされていたらどうでしょうか。2020年のパンデミックによる社会の変化を考えると、何も知らない状態であったことになるでしょう。

追記: Bingのウェイトリストには何百万人もの人がいます。早期アクセスを取得する方法はこちらです

したがって、生成型AIが有益であるためには、引き続きトレーニングを続ける必要があります。

これを行う明らかな方法は、Googleがこれまで行ってきたように、全体的にWebを開いて、それが進み方をクロールさせることです。しかし、ChatGPTさんが以前に回答したように、それはゲーム化やシステムの堕落につながる様々な方法を開き、正確性を損なうため、問題があるでしょう。

悪質なゲームプレイをしていなくても中立でいることは非常に難しいです。たとえば政治を取り上げると、右翼と左翼は激しく対立していますが、どちらの側にも論理的で妥当なイデオロギーの側面があります。たとえ相手側がそれを認めなくても。

AIがどのように判断するのか？偏見なしではできないが、あらゆるイデオロギー的前提条件を完全に排除すること自体が偏見の形態である。人間がこのラインをどのように歩むかを見つけられない場合、AIがそれをすることを期待したり（またはプログラムしたり）することができるでしょうか？

完全なバイアスや感情的な内容が欠如した状態での人生の在り方を探るための方法として、現代のサイエンスフィクション作家たちは、論理的かつ感情がないキャラクターを作り出しました。そのプレミスは、ライターたちに人間の感情や感覚といった欠点を持たない存在することの制限を探求する機会を提供し、プロットのタネとなりました。

また：マイクロソフトのBing Chatはユーザーと議論し、秘密を明らかにします

感情をシミュレートするか、感情的なコンテンツに重み付けをしたり、オンラインで発見可能なものに基づくある程度のバイアスを許可しようとする場合を除いて、ChatGPTのようなチャットボットは常に回答を制限されるでしょう。しかし、AIプログラマーが感情をシミュレートし、またはオンラインで発見可能なものに基づくある程度のバイアスを許可しようとする場合、ChatGPTのようなチャットボットは人間と同じような狂気に陥ることになるでしょう。

では、何を望むのでしょうか？いくつかの質問への限定的な回答、それとも感覚的に感じられる感覚で、感謝祭のテーブルでおかしなおじさんボブとの議論から来たものですか？考えて、以下のコメントで議論しましょう。できれば、おかしなおじさんボブのような状態に陥ることなく。

ChatGPTができない6つのこと（そして他の20のことを拒否する）