改造ChatGPTが「サイバー攻撃」に悪用されている

ChatGPTとは、人工知能を使って質問に答えたり、タスクを実行したりするチャットボットです。ユーザーはそれを使って、文書を作成したり、コンピュータコードを書いたりすることができます。

本来ChatGPTは「ハッキングされたデバイスからデータを盗む」や「フィッシングメールを作成しコードを書く」などのような違法性の高い依頼を拒否するように設計されています。しかし、サイバー犯罪者たちはこのようなChatGPTの制限を回避する方法を発見し販売しています。

制限が回避された「改造ChatGPT」では、一体何ができるのでしょうか?その詳細について、海外メディア「arstechnica」が解説しています。


関連:モテすぎてヤバい……オシャレなホテルを「3泊・2,940円」でサブスクできる「HafH(ハフ)」が70%オフのキャンペーン中!!

*Category:テクノロジー Technology *Source:arstechnica,checkpoint

制限が無くなった「ChatGPT」で出来るコトとは?


ChatGPTの制限を回避するには、OpenAIのアプリケーションプログラミングインターフェース(API)を使用します。

セキュリティ企業であるチェック・ポイント・リサーチ社の研究者によると「APIは外部アプリケーションによって使用され、不正使用防止システムがあるとしても非常に少ない」とのことです。つまり、APIを悪用すれば制限や障壁なしに、フィッシングメールやマルウェアコードなどの悪意のあるコンテンツ作成が可能だということです。

チェック・ポイント・リサーチ社によると犯罪マーケットで「OpenAIのAPI」と「Telegram」を組み合わせたサービスが販売されているとのことです。


研究者は改造ChatGPTがどの程度機能するのかをテストしました。テストの結果、フィッシングメールを作成し、感染したコンピュータからPDF文書を盗み出し、FTPで攻撃者に送信するスクリプトを作成することができたとのことです。下記画像は実際のTelegramボットです。


また、Telegramボットで、不正アクセス防止制限のないマルウェアコードも作成できました。


サイバー犯罪者は、マルウェアの開発やフィッシングメールの作成といったニーズに対して、ChatGPTをどのように活用するかを模索し続けています。

チェック・ポイント・リサーチ社は「ChatGPTを利用してマルウェアやフィッシングメールを作成することは容易でしたが、最近ChatGPTの不正使用防止システムが大幅に改善された」と述べています。そのため、サイバー犯罪者たちは規制が少ないAPIに乗り換えるかもしれません。

なお、ChatGPTを開発しているOpenAIの代表者は、チェック・ポイント・リサーチ社の研究結果や、APIのインターフェースを修正する計画があるかどうかについてはコメントしていません。

AIであれ自力であれ、当然ながらマルウェアやフィッシングメールをバラ撒く行為は犯罪です。AIはプログラミングにも非常に便利なものですが、時には危険なものを作り出してしまうことには注意するべきでしょう。

AD
参考になったらシェアお願いします!
Twitterへ Facebookへ はてブへ Pocketへ
▼新着記事やオススメ記事を投稿中!
AD

人気キーワードから探す
カテゴリーから探す
ゲームのジャンルから探す