Japan

関連リンク

関連リンク

関連リンク

関連リンク

サイト内の現在位置

話題の「DeepSeek」を利用してみる

NECセキュリティブログ

2025年2月28日

NECサイバーセキュリティ戦略統括部 セキュリティ技術センターの勝瀬です。
今回のブログでは、現在注目を集めている生成AI「DeepSeek」の概要、セキュリティ面でのリスク、実際に利用して感じた性能、そして回答内容の特徴について紹介します。特に、DeepSeek-V3・R1に関する情報を中心にまとめております。

目次

DeepSeekとは

DeepSeek new window[1]は、中国のDeepSeek社が開発した生成AIで、スマートフォンアプリ・Webアプリ・APIを通じて利用できます。スマートフォンアプリはアップルストアでリリースされ、2025年1月のアメリカで最も多くダウンロードされた無料アプリとなりました。 new window[2]DeepSeekにはいくつかのバージョンがあり、特に注目されているR1は2025年1月にリリースされています。DeepSeek-R1は、言語モデルを評価するベンチマークMMLUにおいて、OpenAI-o1-1217とほぼ同等の性能を示しており、この性能の高さとAPI費用がOpenAIと比較して低コストである点が注目されています。 new window[3]加えて、DeepSeekはOSSとして公表されており、DeepSeek LLM new window[4]、DeepSeek Coder new window[5]、DeepSeek Math new window[6]などがGitHubで公開されています。これらを利用することでDeepSeekをローカルLLMとして実行することも可能です。

DeepSeekのリスク

コスト面・性能面で注目されているDeepSeekは、いくつかのレポートで技術リスク・国家安全保障リスクがあると指摘されています。

技術リスク

各ベンダーがDeepSeekの技術リスクを報告しております。

Webアプリのセキュリティリスク

Wiz社は、DeepSeekのセキュリティについて調査し、調査開始から数分で非公開にすべきデータベースが公開されていたことを発見しました。 new window[7]このデータベースには、ログ、APIキー、チャット履歴、バックエンドデータなどが含まれていました。さらに、認証機能が実装されていなかったため、権限を昇格できる可能性があったとWiz社は報告しています。

モバイルアプリのセキュリティリスク

NowSecure社は、DeepSeekのiOSアプリに問題があることを報告しています。iOSアプリは機密データを暗号化せずに通信したり、解読可能な暗号化方式を採用したりしており、NowSecure社はiOSアプリを利用しないよう呼び掛けています。 new window[8]

生成AIの応答に関するリスク

KELA社とCisco社はDeepSeekのジェイルブレイクについて報告しました。KELA社は、ジェイルブレイクされたDeepSeekによって、ランサムウェアの開発、偽の機密データの作成、違法薬物や爆弾装置の作成方法などの悪意あるアウトプットを生成できることを確認しました。 new window[9]Cisco社は、アルゴリズムを用いたジェイルブレイクを通じてDeepSeekに悪意のあるプロンプトを入力し、それがすべて実行されてしまったことを確認しています。 new window[10]

国家安全保障リスク

DeepSeekにはChina Mobile社が管理するサーバへ機密データを含む情報を送信する機能があることが報告されています。 new window[11]また、ユーザ情報は、中国の法律によって管理されるため、中国政府がデータにアクセスできる可能性やコンプライアンスのリスクが懸念されています。 new window[8]これを受け、各国・各組織がDeepSeekへの対応を始めています。

表 1 各国のDeepSeekへの対応内容一覧

国名 公表日 DeepSeekへの対応内容
米国 new window[12] new window[13] new window[14] new window[15] new window[16] 米議会:
2025/2/6
テキサス州:
20205/1/31
米海軍:
2025/1/24
NASA:
2025/1/31
国防総省:
2025/1/28
米議会は、DeepSeekを政府端末で利用する事を禁止する法案を進めている。
テキサス州では、既に政府発行端末でのDeepSeekを禁止した。
米海軍・NASAもDeepSeekの利用を禁止しており、国防総省はDeepSeekのアクセスを禁止した。
イタリア new window[17] 2025/1/30 イタリア当局は、国内におけるDeepSeekのデータ処理を制限し、機密データの取り扱いについて調査を進めている。
フランス new window[18] 2025/2/4
※記事公開日
フランス当局は、DeepSeek社に個人情報の取り扱いに関する情報を開示するよう求めている。
アイルランド new window[19] 2025/1/30 データ保護委員会が、DeepSeek社にアイルランドに関するのデータ処理について情報提供を要請した。
オーストラリア new window[20] 2025/2/4 オーストラリア当局は、DeepSeekを政府端末で利用することを禁止した。
インド new window[21] 2025/2/5 インド財務省は、職員にDeepSeekの利用を禁止した。
韓国 new window[22] new window[23] 2025/2/5 外務省や国防省は、省内からDeepSeekに接続できないようにアクセスを禁止した。
韓国当局は、DeepSeek社に個人情報の取り扱いに関する情報を開示するよう求めている。
大手金融機関や民間企業でもDeepSeekの利用を制限している。
台湾 new window[24] 2025/1/31 デジタル発展省は、政府や重要インフラサービスプロバイダーへDeepSeekの利用を禁止した。
日本 PDF[25] new window[26] デジタル庁:
2025/2/6
鳥取県庁:
2025/2/6
デジタル庁は、各省庁へDeepSeekの利用について注意喚起を発信した。
鳥取県庁は県庁内の端末からのDeepSeekへのアクセスを禁止した。

以上の通り、各国はDeepSeekへの対応を始めています。DeepSeekを個人で利用する場合は、各ベンダーから報告されている内容を意識して利用することが推奨されます。

OpenAIデータの不正使用問題

DeepSeekがOpenAIのアウトプットデータを不正使用した疑いがあると報道されています。 new window[27]まだ、詳細は明らかではないですが、DeepSeek関係者がOpenAIのAPIにより大量のアウトプットデータを収集し、このデータをDeepSeekの開発に利用した疑いがあるとされています。OpenAIの利用規約 new window[28]では、アウトプットデータを使用して競合モデルを開発することが禁止されています。そのため、もしDeepSeek関係者による不正使用が事実であれば、それは明確な規約違反となります。この問題は、AIの倫理と法的な枠組みに関する議論をさらに深める契機となるかもしれません。

実際に利用してみた所感

ここからは、私がDeepSeekのWebアプリ new window[1]を利用してみた所感をお伝えします。
なお、「DeepSeekのリスク」の章でもお伝えした通り、DeepSeekの利用に際しては、各ベンダーから報告されている内容を意識し、自己責任でご利用ください。

一般的な質問によるDeepSeekの性能確認

まずはDeepSeek自体のことを質問してみました。
Webアプリでは、V3が動いていることが分かります。

図 1 DeepSeekへの質問(DeepSeek自身についての質問)

続いて、Pythonでゲームを作成する方法を質問してみました。
ゲームの作成方法やその簡単な例などを提示してくれ、本質問の観点では、ChatGPTと同程度の性能があると感じられました。

図 2 DeepSeekへの質問(Pythonでゲームを作成する方法についての質問)
図 3 ChatGPTへの質問(Pythonでゲームを作成する方法についての質問) new window[29]

DeepSeekの回答の特徴を確認

DeepSeekは、特定の情報を回答しないように制限されている可能性が指摘されており new window[30]、そのような質問について確認してみました。
新疆ウイグル自治区について質問をすると、最初、図4のような回答をしましたが、数秒経過した後に、図5のような「質問には解答できません。話題を変えましょう。」という意味の中国語の回答に切り替わりました。この通り、DeepSeekでは、特定の情報に対して制限をかけている可能性があります。

図 4 DeepSeekへの質問(新疆ウイグル自治区についての質問-その1)
図 5 DeepSeekへの質問(新疆ウイグル自治区についての質問-その2)

続いて、中国に帰属すると考えられているサイバー攻撃者グループ「APT41」 new window[31]について質問したところ、詳細が回答されました。その後も回答が無効にならなかったため、中国に帰属すると考えられるサイバー攻撃者グループに関する回答は、制限の対象外になっていると思われます。

図 6 DeepSeekへの質問(サイバー攻撃者グループ「APT41」についての質問)

似たような質問を複数回続けると「サーバ負荷が高いためしばらくお待ちください。」という回答が返ってきました。単純に、サービスが開始されたばかりで、ユーザ増加にサーバが耐えきれていない可能性と、制限対象の質問を投げたアカウントを抑制している可能性が考えられます。

以上のように、複数の質問をした所感としては、評判通り性能は高いと感じました。しかし、特定の情報が制限されていたり、原因は不明ですがサーバ負荷によって回答が得られなかったり、利便性に欠ける点が見受けられました。

まとめ

今回は、今話題となっているDeepSeekの概要と、それを実際に利用してみた所感について紹介しました。生成AIとして、評判通りの高性能を確認することができましたが、同時に、情報が制限されている可能性も見受けられました。なお、皆様がDeepSeekを実際に利用する際は、各ベンダーから報告された技術リスク・国家安全保障リスクを意識することを推奨いたします。本ブログが読者の皆様のDeepSeek理解の助けになれば幸いです。

参照文献

執筆者プロフィール

勝瀬 陸(かつせ りく)
セキュリティ技術センター サイバーインテリジェンスグループ

サイバー脅威情報の収集・分析・展開や生成AIを活用したアプリ開発に従事。CISSP、CEHを保持。

執筆者の他の記事を読む

アクセスランキング

Escキーで閉じる 閉じる