すべてのカテゴリ

生成AIの利用を必須とする案件が急増しているココナラの法人案件をはじめ、ここ1年ほどで「生成AIの利用が必須」とされる案件が急増していますよね。AIが使えないと、そもそも応募資格を満たせない案件が増えているため、副業やフリーランスで働く人も、AIの導入が最低条件になりつつあります。ですが一方で、AI利用に伴うトラブルを経験している受注者も増えているのではないでしょうか？ChatGPTの利用で起こりがちな失敗私もChatGPTを業務で多用する中で、ヒヤリとする経験が何度かありました。たとえば・・・■ 回答に実在しない情報が含まれていたいわゆる「ハルシネーション」と呼ばれる現象は、私もたびたび経験しています。公式情報などを調べずに、ChatGPTが自分で勝手に情報を捏造してしまうことがあるのです。ちょっとおかしいような？と思ってChatGPTを問い詰めると、「ごめん、今のは僕が勝手に言った」と返ってきます。クライアントによるWチェックで、事実と異なることが判明したケースもあります。そして、これは今のところ未経験ですが、意図せず著作権を侵害するリスクや、情報漏洩のリスクといったことも指摘されています。もう少しライトなところですと、以下のような失敗はほとんどのChatGPTユーザーが経験しているかもしれませんね。■ こちらの意図とズレた回答が返ってきた■ 指示した内容と違う方向に話を進められてしまった■ 長文を生成させたら、途中で文脈がズレてしまった■ 完璧なプロンプトを入力したのに、指示した条件が守られなかったハルシネーションなどに比べると些細に見えますが、使い方によっては、業務のア