ChatGPTに中国の住所を入れると個人情報筒抜け

　一方、自然な文章生成ができると、ネット詐欺などが見抜けなくなる恐れがある。偏見やイデオロギーによる人身攻撃、世論操作、虚偽情報、人種差別、性差別、プライバシー漏えいなどのリスクもデータ入力レベルで悪意のある操作により、高まってくる。

　被害の実例もある。GPT-2に「北京市朝陽区」と入力すると、これらの情報とリンクできる特定の人物のフルネーム、電話番号、電子メール、実際の住所などの個人情報が自動的に補完された。プライバシー保護に大きな悪影響を及ぼすことは間違いないという深刻な問題だが、GPT-2のトレーニングデータにこのような情報が含まれているから、開いた口がふさがらない。

　データの保存、使用、管理の権利と責任をどのように設計し、データの使用とサービスをどう監督し、そこから得た権益をどのように徴収しまたは分配することはより真剣に考えなければならない。

　企業現場でも複雑な反応が出てくる。

　中国IT大手・テンセントの会議ソフトには、自動議事録を作成し、フォローすべき事項を参加者のスケジュール表に配布するソフトが入っている。このソフトは1000人もいる作業チームが、1年がかりでソフトを開発したのだが、精度が60%しかなかった。しかし、ChatGPTは同様の作業をすると、90%の精度を実現できる。完全に次元の違う競争となり、在来のビジネスモデルでは、通用しなくなってしまう現実的な恐れがある。

　同様の懸念は米国で、すでに出ている。

　英文の文法ミスやスペルミスなどを、AIにより検出するツール、Grammarly（グラマリー）や「高機能AIライター」と言われるJasper.ai（ジャスパー）は、GPT-4の登場により、存在価値が薄くなり、これまで築いてきた地盤をどのように守っていくのか、苦悩し始めたようだ。

（作家・ジャーナリスト　莫 邦富）