テクノロジー「AIの騙し方」

【キャットアタック】

最近のAIは凄く賢くて難しい文章問題や

数学の難問も解ける様になってきてます

つまり科学者でも難しい問題をAIならば

簡単に解ける位進化してるのです

でも意外な弱点がありそれは問題の中に

「猫は一生の殆どを寝て過ごします」と

言う様などうでもいい豆知識を入れると

AIは一気に間違えやすくなります

人も無意味な文があっても無視する事が

出来難いですがAIは更に混乱するのです

そこでアメリカ研究チームクリニアーが

この弱点を調べました

このAIを惑わし誤回答させる攻撃方法を

「キャットアタック」と名付けたのです

AIの種類は色々ありディープシークとか

クウィーン等様々なAIでテストしました

するとたった一文加えただけで誤答率が

300％〜700％ も増え更に正解した時も

答えがやたら長くなって処理が遅れたり

余計にコストがかかる事もありました

こんな事が起きる原因はAIが学習する時

問題文にある情報は全部大事と思い込み

特に数字が入った文は重要だと判断して

誤数字でも強引に回答に混ぜてしいます

そこに文章の誤情報を混ぜればそすらも

AIは重要な文章だと認識し強引に回答に

混ぜその結果必要ない事まで考え答えを

間違えてしまうのです

〓＝〓＝〓＝〓＝〓＝〓＝〓＝〓＝〓＝〓

【騙されないAI】

この弱点は凄い危険性があり金融や医療

法律の様に重要な分野でもし悪意のある

人間ががわざと余計な文を入れそのAIを

使わせたら正常にAIが動きません

そうなるとAIが間違の答を出してしまい

大きな被害が出てAIの答えに従った人は

人生どん底まで突き落され膨大な借金を

性負わされて完全に詰みます

人間ならよく見れば無視できる事なのに

AIはそれが絶対出来ないからここに人と

AIの考え方の大きな違いがあって大切な

判断をする事でAIを使うのは危険です

対策方法として無関係な文は無視してね

とAIに追加の指示をすると少し防げられ

しかし少しか誤情報をスルーしないので

この方法は完璧ではありません

なので将来は余計な情報に強いAIを作り

人間の問いかけに必ず正しい回答をだし

AIは人間が自分をだます事があると知り

疑う機能が必要になります

AIはとても頭が良くなったけど関係ない

一文に凄く弱く人間ならよく読み気づき

自分を騙している事だと認識できますが

AIは簡単に引っかかってしまいます

この弱点を悪用されると危ないのでAIに

人間は嘘つきだと解らせ常に自分を騙し

不幸に陥れる悪者のショッカーと理解し

騙されないAIを作る必要があるのです