レポートがChatGPTで作られたことを検出するシステムを開発…AIとのいたちごっこが始まった

OpenAIのチャットボット、ChatGPTが学生の不正を手助けしていると、教育関係者が懸念を表明している。

Getty Images

• 盗用検出サービスを提供するTurnitinの幹部は、学生が課題にChatGPTを使っているかどうかを見分けるシステムを開発したという。

• Turnitinによると、AIの文章は｢極めて平均的｣であることから検出可能だという。

• ニューヨーク市教育局は、ChatGPTで批判的思考能力を身につけることはできないとして、学校での使用を禁止すると発表した。

2022年11月下旬の公開以来、ChatGPTは課題から解放されたい学生にとって救世主のように思われてきた。

OpenAIが開発したこのAIチャットボットは、例えば｢高校生らしいスタイルで、アメリカ独立戦争についての200語のエッセイを書きなさい｣といったプロンプトに対して、人間が書いたような文章を素早く生成できる。そしてAIが作成した文章かどうかを見分けるのはますます難しくなっている。

しかし、不正行為防止ソフトウェアメーカーであるTurnitinの幹部は、その解決の鍵を見つけたと述べている。

数千の大学や高校と連携して盗用を見分ける手助けを行っている同社は、ChatGPTが学生の課題を代筆したかどうかを正確に判別できるAI検出のサービスを2023年中に展開する予定だという。

もっと知る

ChatGPTが教育現場を救う？…｢教師の仕事を大幅に減らしてくれるかもしれない｣

｢これらのモデルは、人間の知識の総和で訓練されているため、極めて平均的な文章を書く。最もそれらしい単語を最もそれらしい場所に配置するマッドリブ（文章の空欄に単語を入れて完成させる言葉遊び）マシンのようなものだ。だが人間とは特異な存在であり、完全に平均的な人間などいない｣とTurnitinの人工知能担当バイスプレジデント、エリック・ワン（Eric Wang）は語る。

Turnitinによると、ChatGPTが学生の課題作成に利用されている可能性が高いとして、多くの教師が懸念を表明しているという。ある大学教授は、学生がエッセイを書くのにこのボットを使っていたことに気づき｢絶望的な恐怖｣を感じたと、2022年12月26日のニューヨーク・ポストに語っている。

Turnitinの最高製品責任者であるアニー・チェチテッリ（Annie Chechitelli）は｢教育関係者から、（ChatGPTによる）盗用を検出したり立証したりできるようなツールがほしいという声を聞いている｣と述べている。

ニューヨーク市教育局は1月3日、学校のネットワークやデバイスでのチャットボットの使用を禁止することを発表した。学区としてこのような措置が取られるのは初めてのケースだ。

｢このツールは、質問に対する答えを素早く簡単に提供できるかもしれないが、学業や生涯の成功に不可欠な批判的思考力や問題解決力を養うものではない｣と同局の広報担当者は述べていた。

ChatGPTへの挑戦

Turnitinでさえ、ChatGPTが生成した文章を100％の精度で検出することはできないだろうとしている。

｢これからリリースする最初のベータ版が完璧でないことは確かだが、シグナルを得て、それをどのように微調整するかを学び始めるには十分だろう｣とチェチテッリは述べている。

コロンビア大学コンピューターサイエンス学科助教の俞舟（Zhou Yu）によると、TurnitinのAI検出システムを成功させるには、AIボットが学習する速度に合わせて、検出システムも常に更新・改善する必要があるという。現時点で統計的に最も生成されやすい言葉が、ChatGPTが進化するにつれて、来年は異なるものになる可能性があるからだ。

とはいえ、彼女は教育に携わる人ほどChatGPTのことを心配しているわけではないという。むしろ、ツールとして適切に利用すれば、教育を発展させることができると考えており、新たな言語教育におけるAIボットの有効性について研究しているところだ。

｢怖がる必要はないと思う。進歩の自然な流れだ。ただし、事故が起きることはあるだろう｣と彼女は述べた。

しかしTurnitinの幹部は、ChatGPTが教育を完全に変えてしまうのではないかと懸念している。

｢この技術が、教育、学習、ライティング、知識の創造、オリジナリティの概念を変えていく中、教育者が実際に対処していくのは本当に困難なことだ。これまでの考え方を変えなくてはならない｣とワンは述べていた。

もっと知る

グーグルが方針変更、ChatGPTに対抗へ…ピチャイCEOが新しいAI製品の開発を指示