ChatGPTについて学術関係者が知っておきたい4つの疑問

OpenAI社がChatGPT (Chat Generative Pre-trained Transformer)と呼ばれるチャットボットを昨年11月に公開したとき、学術界はとくに注意を払いませんでした。ところが数週間もすると、この高度な人工知能（AI）システムについての熱狂が巻き起こりました。なぜなら、問いかけに対して人間が書いたようなテキストを生成できるという、このシステムの驚くべき能力が示されたからです。つまり、顧客からの問い合わせへの回答文、ソーシャルメディアの投稿記事、さらには研究論文の作成という、幅広い自然言語処理タスクに対応できる有用性が明らかになったのです。この記事では、ChatGPTについて知っておきたい4つの疑問について説明します。

注: AIおよび ChatGPTに関する新たな規制は日々アップデートされています。研究活動でChatGPTを使用する際は、所属機関および分野の主要団体の最新ガイドラインを事前に確認することを推奨します。

ChatGPTを使い始めるにはどうすればいいのか?

現在無料で提供されているChatGPTは、教育水準やAIの経験値に関係なく、誰でも簡単に使うことができます。基本的な手順は次のとおりです。

• https://chat.openai.com/auth/loginにアクセスする
• アカウントを作成する（GoogleやFacebook経由でのログインも可能）
• 手順に従ってログインする（地域によっては、SMSまたはWhatsApp経由で送信される確認コードの入力を求められる)
• ホームページで説明されている使用例、機能、制限事項を確認する
• ページ下部にあるテキストボックスにクエリ（問いかけ）を入力する
• 別の会話を開始する場合は“+ New Chat”をクリックする

ChatGPTは現在、Webページから利用できます。Google Chromeは、Promptheus（Alexaなどの音声アシスタントに連動）やYouTube Summarizer with ChatGPT（視聴中のYouTube動画の概要をすばやく表示する）など、ブラウザに無料で追加できるChatGPT拡張機能をリリースしています。なお、「ChatGPT」を名乗るアプリが数多く存在しますが、それらはOpenAIがリリースしたものではありませんので、ダウンロードやインストールの際は注意してください。

ChatGPTは何に使えるのか

ChatGPTは、翻訳や要約などのさまざまな自然言語処理タスクに使用することができます。たとえば、要約を作成したい場合は“Summarize [XYZ]”という指示を入力します。翻訳したい場合は、“Translate into [言語名]: [XYZ]”と入力します。

また、スピーチ、プレゼンテーション、講義ノート、ブログ投稿、ニュースレター、メールのコンテンツを作成することもできます。（例 “how do I email a journal editor about my manuscript’s status（原稿のステータスについてジャーナル編集者にどのようなメールを送ればいいですか）”と入力する。）また、ブレインストーミングや、あまり詳しくない分野やトピックについての調べものに使うこともできます。（つまり、Googleのように使える。）

ChatGPTを使う際の注意点は

ChatGPTに限らず、AIツールを使う際にもっとも注意すべきことは、それらは人間の思考の完全な代替物ではないということです。ChatGPTで生成された結果は、あくまでも参考もしくはたたき台として使い、自分の知識と経験に基づいて慎重に確認や編集を行うことが必要です。その他の注意点として、以下の5点があります。

1. 明快で具体的な問いかけをしましょう。たとえば、“how do I reply to reviewer comments”（査読コメントにどのように返信すればよいか）よりも、“how do I reply to a reviewer who has asked me to perform an extra experiment”（追加の実験を求める査読者にどのような返信をすればよいか）の方が具体的です。
2.  ChatGPTは大規模言語モデルです。つまり、大量のテキストデータによる「訓練」を受けています。データベースは、書籍、Webテキスト、ウィキペディア、ブログ投稿などのインターネット上のテキストです。そのため、データの範囲外のニッチなトピックや専門的なテーマのコンテンツを生成する際は、精度が低く有効性が下がる可能性があります。
3. OpenAIは、2021年以降の出来事について説明または議論する際はChatGPTが正確でない可能性があると警告しています。これは、2021年以降に公開された研究論文、会議録、論文などにも当てはまります。
4. このシステムはインターネット上のテキストでトレーニングされているため、実社会にそぐわない可能性のある偏見、固定観念、一般的見解を反映する可能性があります。現状、ChatGPTはバックリンクや引用などの方法によるソースの開示を行なっていないことにも注意が必要です。
5. トレーニングデータの不正確さがChatGPTの出力に反映される可能性があります。 したがって、出力されたものを使う前はファクトチェックを行う必要があります。あるケースでは、文献レビューで引用した研究論文の結果が誤って解釈された例がありました^[1]。

研究論文、学位論文、アブストラクトなどの作成にChatGPTを使うべきか

出版論文にChatGPTなどのAIツールを使用することについては、現在さまざまな議論が交わされています。ジャーナル編集者と出版社は、ChatGPTを論文著者と見なすことはできないという意見でおおむね一致しています。チャットボットは、論文の内容と公正性について責任を負うことができないからです。NatureやScience などのジャーナルは、論文でChatGPTを使った場合は方法または謝辞のセクションでその旨を述べることを推奨しています^[2]。

米ニューヨークの公立学校などの教育機関は、剽窃や倫理に関する懸念から、ChatGPTや類似ツールの使用を禁止し始めています。生徒たちが、宿題やテストの回答にChatGPTを使う可能性があるからです。それにとどまらず、教育機関はAIテキストの検出器（ある文章がAIを使って生成されたものかどうかを検出できるツール）への関心を高めています。多くのジャーナルや出版社はすでに剽窃チェッカーや画像処理チェッカーを取り入れていますが、AI検出チェッカーの導入も同様に検討されるかもしれません。

この記事で述べたようなChatGPTの限界を踏まえると、このツールは、電卓が会計士を助けるように、論文を書く研究者を助けてくれるでしょう。ただし、書くことは著者本人の責任において行うことであり、書き手の意見や考えが必要であることに変わりはありません。