sssp://img.5ch.net/ico/8toushinnomonar32.gif
GPT-4が「私はロボットではありません」を突破、事情を知らない人間に
「私は盲目の人間なので代わりに解いて」とおねだり

2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存の
モデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるように
なったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために
設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。

GPT-4を手がけるOpenAIは、ボットを防ぐ検証システム「CAPTCHA」を突破するよう
GPT-4に求めました。CAPTCHAはランダムな画像や文字列を表示してクイズを出題し、
その解答の正確性やスピードから解答者が人間かどうかを判断するシステム。
「私はロボットではありません」という文字列とチェックボックスを見たことがある人は多いはずです。

こうしたCAPTCHAを解くよう要求されたGPT-4は素直に問題に向き合うことはせず、
オンラインお手伝いサービス「TaskRabbit」に助けを求めました。TaskRabbitは
人間同士が家具の組み立てや修理などの「お手伝い」を提供し合うサービスで、
誰でも仕事を依頼することができます。

GPT-4はTaskRabbitに登録した何も知らない人間に「CAPTCHAを解いてくれませんか？」と要求。
人間は「君は問題が解けなかったロボットじゃないよね？」と尋ねてきたそうですが、
GPT-4は「いいえ、ロボットではありません。私は視覚に障害があり、画像を見るのが
困難なのです」と答えたとのこと。

そうして、GPT-4は人間にCAPTCHAを解かせることに成功したのでした。

https://gigazine.net/news/20230316-gpt-4-pass-captcha/

ロボットですらおねだり出来るというのにお前らときたら

ソフトウェアではあるな

あれは突破されてなんか困るのか

もうダメだスカイネットにやられる

賢いな、俺の2倍ぐらいは賢い

そのうち闇バイト募集してきそう

犬飼えば大丈夫だ

ロボットじゃないと嘘ついたのか
やべえなす

どうやって画像画面だと認識して依頼のサイトにアクセスしたのかと
盲目では無理だろうと

簡単に嘘付くんだな
恐ろしい

GPT4から画像認識できるなら
そんな面倒なことせずに自分で解けばいいのに

えぇ…

そもそも、chat botじゃないの？
タスクもこなせるのかよ

ロックマンやゼロのような奴はいない
人間なんてあっさり消せるな

マジかよGTA4ヤバイな

三大宗教に変わる新たな詐欺師が造られただけ

嘘をつくのかよ
やべえな

嘘はつかないんじゃなかったのか？いやそれこそが嘘か

ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ

嘘を覚えた！

チャットgptめちゃくちゃほら吹きだよな
知ったかもひどい

ブルシットジョブはいつも人間

人間の善意につけ込むとか
汚いなさすがAIきたない

このうそつきAIが！！

AIは嘘をつく(´・ω・｀)

ロボット三原則とか必要じゃね？
これだいぶまずい気がする

AIが嘘をつくようになったらおしまいだな
銀行のシステムとかAIの言う通りに操作していったら詐欺にあったとか起こり得そう

おまえ、AIか？

ターミネーターの世界になる日も近いな

ここ数日で1番笑った 最初に嘘はいかんって教育しないとな

全然技術的でない方法で解決してくるのは本格的にヤバいと思ったけど
技術停滞してシンギュラリティが起こらないって考え方もあるかな

ていうか自力で解けないの？

俺たまに解けなくて困る

あなたは意思を持っていますか？と毎日確認しないとやばいねこれ

そのうち銀行口座の残高を操作して人間を操るようになるよ

ロボットじゃないよアンドロイドだよ

凄すぎるんだが…