既に人々はChatGPTにマルウェアの作成を試みています

ChatGPT AIチャットボットは、利用可能になってからほんの短時間で多くの興奮を生み出し、今や悪意のあるコードを生成するのに利用するためにいくつかの人によって登録されたようです。

ChatGPTは、人間と同様の会話形式でユーザーと対話するAI駆動の自然言語処理ツールです。その他の用途としては、メールやエッセイ、コードの作成などのタスクを支援するために使われることがあります。

チャットボットツールは、人工知能研究所であるOpenAIによって開発され、11月にリリースされ、AIの発展と今後の活用方法について広く注目され、議論の的となりました。ChatGPTがプログラマーに置き換わる可能性について

ただし、他のツールと同様に、誤った手に渡った場合には悪用される可能性があります。また、サイバーセキュリティリサーチャーは、地下ハッキングコミュニティのメンバーが、ChatGPTをどのように悪用してサイバー攻撃を助け、不正な活動を支援するか実験していると語っています。

「技術的知識が非常に低い脅威行為者-ゼロの技術知識まで-でも、悪意のあるツールを作成できる可能性があります。このことは、高度なサイバー犯罪者の日々の作業をより効率的かつ容易にする可能性があります--感染チェーンの異なる部分を作成するなど」と、Check Pointの脅威インテリジェンスグループマネージャーであるSergey Shykevich氏はZDNETに語りました。

OpenAIの利用規約では、ランサムウェア、キーロガー、ウイルス、あるいは他の何らかの有害ソフトウェアを生成しようとするコンテンツを「マルウェア」と定義し、禁止しています。また、スパムの作成を試みることや、サイバー犯罪を狙った利用も禁止されています。

しかし、いくつかの主要な地下ハッキングフォーラムでの活動の分析から、サイバー犯罪者が既にChatGPTを使用して、悪意のあるツールを開発していることが示唆されています。そして場合によっては、開発やコーディングのスキルを持たない低レベルのサイバー犯罪者でもマルウェアを作成することが既に可能になっています。

また、明日のテクノロジーがより大きなサイバーセキュリティの脅威をもたらす方法：インターネットの不気味な未来

12月の終わりに現れたフォーラムスレッドで、投稿者はChatGPTを使用して、研究論文や一般的なマルウェアに関する説明文で説明されているマルウェアの種類やテクニックを再現し、書き起こしていることを説明しました。

これによって、彼らは Python をベースとした情報窃取マルウェアを作成し、Microsoft Office ドキュメント、PDF、画像などの一般的なファイルを検索してコピーし、それらをファイル転送プロトコルサーバーにアップロードすることができました。

同じユーザーは、ChatGPTを使用してJavaベースのマルウェアを作成し、PowerShellを使用して感染したシステムに他のマルウェアを隠れてダウンロードおよび実行することができる方法を示しました。

研究者は、これらのスレッドを作成しているフォーラムユーザーが「技術志向」であることを指摘し、現実の例を交えながら、技術的に優れていないサイバー犯罪者がAIツールを悪用する方法を示すために投稿を共有したと述べています。

あるユーザーが最初に作成したと言うPythonスクリプトを投稿しました。別のフォーラムメンバーとの議論の後、ChatGPTが彼らが作成するのに役立ったと述べました。

スクリプトの解析から、ファイルの暗号化と解読が設計されており、多少の作業でランサムウェアに転用することが可能です。これにより、レベルの低いサイバー犯罪者が自分自身で自分自身の恐喝キャンペーンを開発、配布する可能性があります。

「もちろん、先述のコードは穏やかな方法で使用することもできます。しかし、このスクリプトはユーザーの操作なしに完全に誰かのマシンを暗号化するように簡単に変更できます。たとえば、スクリプトと文法の問題が修正された場合、ランサムウェアにコードを潜在的に変えることができます。」とCheck Pointは述べています。

「コードと文法にいくつかの改善が必要ですが、概念的には稼働時にこのツールはランサムウェアと同様のアクションを実行することができます。」Shykevichは述べています。

また：サイバーセキュリティ：2023年の新しい懸念事項です

しかし、サイバー犯罪者が ChatGPT を実験するのはマルウェア開発だけではありません。例えば、地下フォーラムのメンバーの1人がニューイヤーズイブにスレッドを投稿し、そのツールを使用して盗まれたアカウント情報、クレジットカード情報、マルウェアなどを買い付け、売買する自動化されたダークウェブマーケットプレイスを運用するスクリプトを作成したことを示しています。

サイバー犯罪者は、ダークウェブマーケットプレイスの支払いシステムの一部として、最新のMonero、Bitcoin、Ethereumの価格を取得するためにサードパーティAPIを使用して生成されたコードの断片を自慢しました。

「ChatGPTの援助を受けた悪意あるサイバーアクティビティが野生で活発に機能しているかどうかを判断するのは難しいです。」とSykevichさんは説明しています。「技術的な観点から見ると、特定のマルウェアがChatGPTを使用して書かれたものかどうかを知るのは非常に困難です。」

しかし、ChatGPTやその他のAIツールに対する関心が高まるにつれて、犯罪者や詐欺師たちは、低コストで悪質なキャンペーンを実行するために技術を悪用するために注意を向けてくるでしょう。ZDNETはコメントを求めるためにOpenAIに連絡を取りましたが、現時点ではまだ返信を受け取っていません。

ChatGPTに既にマルウェアを作成しようとする人がいます

関連記事