すべてのカテゴリ

【キャットアタック】 最近のAIは凄く賢くて難しい文章問題や 数学の難問も解ける様になってきてます つまり科学者でも難しい問題をAIならば 簡単に解ける位進化してるのです でも意外な弱点がありそれは問題の中に 「猫は一生の殆どを寝て過ごします」と 言う様などうでもいい豆知識を入れると AIは一気に間違えやすくなります 人も無意味な文があっても無視する事が 出来難いですがAIは更に混乱するのです そこでアメリカ研究チームクリニアーが この弱点を調べました このAIを惑わし誤回答させる攻撃方法を 「キャットアタック」と名付けたのです AIの種類は色々ありディープシークとか クウィーン等様々なAIでテストしました するとたった一文加えただけで誤答率が 300％〜700％ も増え更に正解した時も 答えがやたら長くなって処理が遅れたり 余計にコストがかかる事もありました こんな事が起きる原因はAIが学習する時 問題文にある情報は全部大事と思い込み 特に数字が入った文は重要だと判断して 誤数字でも強引に回答に混ぜてしいます そこに文章の誤情報を混ぜればそすらも AIは重要な文章だと認識し強引に回答に 混ぜその結果必要ない事まで考え答えを 間違えてしまうのです 〓＝〓＝〓＝〓＝〓＝〓＝〓＝〓＝〓＝〓 【騙されないAI】 この弱点は凄い危険性があり金融や医療 法律の様に重要な分野でもし悪意のある 人間ががわざと余計な文を入れそのAIを 使わせたら正常にAIが動きません そうなるとAIが間違の答を出してしまい 大きな被害が出てAIの答えに従った人は 人生どん底まで突き落され膨大な借金を 性負わさ