悪用の懸念もあるOpenAIの文章生成言語モデル「GPT-2」最終版リリース - CNET Japan
ニュース
製品・サービス
企業・業界
社会
解説
オフトピック
デジタル製品
リリース
イベント
ブログ
CNETどっち?
特集・連載
インタビュー
Marketers'
CNET_ID
CNET_ID ログイン
CNET_ID
新規登録
CNET_ID Myページ
ログアウト
Japan Edition
United States
Australia
China
France
Germany
Japan
Korea
CNET en Espa〓ol
CNET ID
ログイン
新規登録
Myページ
ログアウト
search
メニュー
ニュース
特集・連載
インタビュー
製品・サービス
企業・業界
社会
解説
デジタル製品
カテゴリ
AI
IoT
5G
不動産
教育
金融
ワークスタイル
フード
ヘルスケア
モビリティ
シェアリングエコノミー
Marketers'
公式SNS
facebook
Twitter
RSS
CNET Japan
>
ニュース
>
製品・サービス
悪用の懸念もあるOpenAIの文章生成言語モデル「GPT-2」最終版リリース
Liam Tung (Special to ZDNet.com) 翻訳校正: 編集部2019年11月08日 11時56分
Tweet
noteで書く
印刷
メール
テキスト
HTML
電子書籍
PDF
保存
テキスト
電子書籍
PDF
クリップ
 非営利の人工知能(AI)研究グループOpenAIは、文章を生成する言語モデル「GPT-2」の最終版をリリースしている。OpenAIは2015年にElon Musk氏らが設立したグループだが、Musk氏はすでに同組織を離れている。
 OpenAIによると、新しくリリースされたフルモデルが生成する文章は、信頼性が旧版よりわずかに向上した。
 OpenAIは段階的な公開プロセスの一環として、2月に言語モデルの一部(パラメーターは1億2400万)をリリースした。15億のパラメーターを持つフルモデルの代わりに縮小版を公開したのは、これが危険すぎる上、テロリストや国家の支援を受けたハッカーなど、悪意のある攻撃者に悪用される恐れがあるとサイエンティストらが考えたためだ。
 OpenAIは、GPT-2の悪用の可能性として、誤解を与えるニュース記事、オンラインでのなりすまし、ソーシャルメディア向けの不適切なコンテンツやフェイクコンテンツ、スパムやフィッシングコンテンツの自動生成などを挙げている。
 この言語モデルはこの分野を主導するテキスト生成AIだ。Googleの研究者も「Bidirectional Encoder Representations from Transformers」(BERT)を開発している。Googleはユーザーの検索内容を予測するためにBERTを使用している。
 OpenAIによると、人は15億のパラメーターを持つGPT-2が生成した文章を「説得力がある」と感じたものの、8月に公開した7億7400万のパラメーターを持つモデルと比較した場合、わずかしか向上しなかった。生成された文章を人がどの程度信頼するのか、コーネル大学が調査を実施した。
 OpenAIは、GPT-2を悪用のために「微調整することが可能」だと述べている。ミドルベリー大学のテロ・過激主義・テロ対策センター(CTEC)によると、白人至上主義、マルクス主義、イスラムのジハード主義、無政府主義などを擁護するよう、GPT-2に手を加え、プロパガンダを生成できる恐れがあるという。
 OpenAIは、15億のパラメーターを持つGPT-2リリースと共に公開した文書で、「GPT-2を悪用する動機とリソースを持っている可能性が高い」のは、APT(高度で継続的な脅威)攻撃者だと指摘している。しかしOpenAIは、そうした脅威に対抗するだけのリソースがないことなどから、CTECとコーネル大学の協力を得た。
 一方、OpenAIはより低レベルの脅威について、以前考えられていたほど差し迫った問題ではないとみている。現時点では、GPT-2が悪用された証拠は見つかってないという。
 OpenAIは、15億個のパラメーターを持つGPT-2モデルで生成されたテキストの検出で、検出精度が約95%の検出モデルを開発している。高い数値だが、OpenAIはメタデータベースのアプローチのほか、人間による判断や一般の啓発などを通じて、検出システムをさらに強化する必要があると考えている。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
メールマガジン購読のお申し込み
あなたにおすすめの記事
東京ゲームショウ2019を彩ったコンパニオンたち--170枚の写真で振り返る
「Nintendo Switch Online」でスーパーファミコンタイトルを配信--9月6日から
「ストリートビュー」が捉えたクレイジーすぎる光景38連発
グーグルのDeepMind、AI訓練プラットフォームをオープンソース化
2016年12月06日 11時29分
国家関与の高度で危険な18のマルウェア
2019年08月16日 06時30分
AIへの対応に1.2億人の再教育が必要--IBM調査
2019年09月12日 07時30分
富士ゼロックス:ユーザーにとことん”やさしさ”を--多様面での利便性を追求
2019年10月30日 07時00分
ジャパンネット銀行、セキュリティに「Splunk」--とにかくデータを投入
2019年11月01日 07時15分
タグ
製品・サービス
-PR-企画特集
働き方、生産性を根底から底上げ!
取り組めば大きな差に!エンド端末の刷新最新テクノロジを迅速に取り込める環境を
どこまで可能?企業を究極の自動化
単純作業の置き換え、業務プロセス自動化ここまで可能になった「人+テクノロジ」
PCから変える働き方
働き方改革の新たな旗手となるPCが登場!この機種がなぜ変革の起爆剤となるのか?!
レガシーなインフラ設計を見直す
デジタルビジネスを推進する原動力を再考!??インフラ再設計と人材確保への道筋??
あなたにおすすめのホワイトペーパー
今注目の人気プログラミング言語
「顧客の今」がなぜビジネスに貢献するのか - HBR調査で見る「リアルタイムアナリティクス」の効果
ウイルス対策ソフトはもはや必要か否か
徐々に広がりを見せる“5G”ビジネス
自社の働き方改革の取り組みに効果を感じている企業は「2割」の衝撃!調査から明らかになった課題とは
AIのメリットを引き出す「7つの領域」と「17の活用シーン」
人気キーワード
経営
セキュリティ
クラウドコンピューティング
モバイル
ビジネスアプリケーション
マーケティング
デジタル製品主要記事
アップル、「News+」「Music」「TV+」をバンドル化の可能性
セガ、「龍が如く7」完成披露会を実施--3DCGの再現度と台本の厚さに俳優陣が驚く
16インチ「MacBook Pro」、まもなく発表か
??Instagram、「TikTok」によく似た新機能「Reels」をテスト
広告や課金なし、オフラインでも遊べる「Apple Arcade」--注目の9作品を紹介
アップル、ARヘッドセットを2022年にリリースする計画か--ARメガネは2023年?
もっと見る
ZDNet Japan 注目ヘッドライン
サムスン製スマートフォンが中国で受け入れられなくなった理由
「Windows 10 November 2019 Update」が提供開始
AWSは独走、追い上げるマイクロソフト--それぞれの強み
写真で見るグーグルの量子コンピューティング技術
どうするSAPのモダナイゼーション--2020年代のビジネスを飛躍させるモダンITプラットフォーム
編集部おすすめの記事
欧州のビジネスハブ「ベルリン」に日本が注目すべき理由--メディア美学者・武邑氏に聞く
アマゾン、偽レビューとは「戦い続ける」--米シニアVPインタビュー
ビジネスにこそ「感情」を持ち込むべき--アカツキ塩田CEOの“ハートドリブン”な経営哲学
大阪発のデザイン・技術集団「フェンリル」--知られざる“2人の創業者”の素顔
増やしたいのは“旅行以上定住未満”--多拠点居住の「ADDress」が提案する移り住む暮らし
本日の主要記事
モトローラ、6.2型OLEDの折りたたみスマホ「Razr」発表--クラムシェル風の縦折り
「Googleマップ」に翻訳機能が追加--自動認識した現地言語で読み上げ
楽天モバイル参入や法改正の影響は--携帯大手3社の決算を読み解く
MacBook Pro 16インチ登場--Escキーが復活した新型キーボード、メモリは最大64GBに
ヤフー親会社とLINEの経営統合、「検討しているのは事実」と両社認める
CNET Japan(Facebook窓)
The Japanese edition of 'CNET' is published under license from CBS Interactive, Inc., San Francisco, CA, USA. Editorial items appearing in 'CNET Japan' that were originally published in the US Edition of 'CNET', 'ZDNet', 'TechRepublic', 'GameSpot' and 'CNET News.com' are the copyright properties of CBS Interactive, Inc. or its suppliers. Copyright (c) CBS Interactive, Inc. All Rights Reserved. 'CNET', 'ZDNet' 'GameSpot' and 'CNET News.com' are trademarks of CBS Interactive, Inc.
個人情報保護方針 | 利用規約 | 訂正 | 運営会社 | 広告について
ニュース
製品・サービス
企業・業界
社会
オフトピック
トピック
解説
リリース
イベント
過去記事
Marketers'
特集
インタビュー
オピニオン
CNET Japanブログ
CNETどっち?
ビジネスアプリセンター(Android)
ビジネスアプリセンター(iOS)
タグ
検索
デジタル製品
モバイル
PC
AV
デジタルカメラ
アップル
エンターテインメント
CNET_ID
新規登録
ニューズレター
RSSフィード
Twitter
Facebook
サイトマップ
朝日インタラクティブ
ZDNet Japan
builder by ZDNet Japan
TechRepublic Japan
Tetsudo.com
当サイトは最新ブラウザでの閲覧を推奨します。
Copyright (c) 2019 ASAHI INTERACTIVE, Inc. All rights reserved. No reproduction or republication
without written permission.
The Japanese edition of 'CNET' is published under license from CBS Interactive, Inc., San Francisco, CA, USA. Editorial items appearing in 'CNET Japan' that were originally published in the US Edition of 'CNET', 'ZDNet', 'TechRepublic', 'GameSpot' and 'CNET News.com' are the copyright properties of CBS Interactive, Inc. or its suppliers. Copyright (c) CBS Interactive, Inc. All Rights Reserved. 'CNET', 'ZDNet' 'GameSpot' and 'CNET News.com' are trademarks of CBS Interactive, Inc.
個人情報保護方針
利用規約
訂正
運営会社
広告について
当サイトは最新ブラウザでの閲覧を推奨します。
Copyright (c) 2019 ASAHI INTERACTIVE, Inc. All rights reserved. No reproduction or republication without written permission.
このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。
これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]