悪用の懸念もあるOpenAIの文章生成言語モデル「GPT-2」最終版リリース - CNET Japan
Continue to CNET Japan
ニュース
製品・サービス
企業・業界
社会
解説
オフトピック
デジタル製品
リリース
イベント
ブログ
CNETどっち?
特集・連載
インタビュー
Marketers'
CNET_ID
CNET_ID ログイン
CNET_ID
新規登録
CNET_ID Myページ
ログアウト
Japan Edition
United States
Australia
China
France
Germany
Japan
Korea
CNET en Espa〓ol
CNET ID
ログイン
新規登録
Myページ
ログアウト
search
メニュー
ニュース
特集・連載
インタビュー
製品・サービス
企業・業界
社会
解説
デジタル製品
カテゴリ
新型コロナウイルス
AI
IoT
5G
不動産
教育
金融
ワークスタイル
フード
ヘルスケア
モビリティ
Marketers'
公式SNS
facebook
Twitter
RSS
CNET Japan
>
ニュース
>
製品・サービス
悪用の懸念もあるOpenAIの文章生成言語モデル「GPT-2」最終版リリース
Liam Tung (Special to ZDNet.com) 翻訳校正: 編集部2019年11月08日 11時56分
ツイート
一覧
note
印刷
メール
テキスト
HTML
電子書籍
PDF
保存
テキスト
電子書籍
PDF
クリップ
 非営利の人工知能(AI)研究グループOpenAIは、文章を生成する言語モデル「GPT-2」の最終版をリリースしている。OpenAIは2015年にElon Musk氏らが設立したグループだが、Musk氏はすでに同組織を離れている。
 OpenAIによると、新しくリリースされたフルモデルが生成する文章は、信頼性が旧版よりわずかに向上した。
 OpenAIは段階的な公開プロセスの一環として、2月に言語モデルの一部(パラメーターは1億2400万)をリリースした。15億のパラメーターを持つフルモデルの代わりに縮小版を公開したのは、これが危険すぎる上、テロリストや国家の支援を受けたハッカーなど、悪意のある攻撃者に悪用される恐れがあるとサイエンティストらが考えたためだ。
 OpenAIは、GPT-2の悪用の可能性として、誤解を与えるニュース記事、オンラインでのなりすまし、ソーシャルメディア向けの不適切なコンテンツやフェイクコンテンツ、スパムやフィッシングコンテンツの自動生成などを挙げている。
 この言語モデルはこの分野を主導するテキスト生成AIだ。Googleの研究者も「Bidirectional Encoder Representations from Transformers」(BERT)を開発している。Googleはユーザーの検索内容を予測するためにBERTを使用している。
 OpenAIによると、人は15億のパラメーターを持つGPT-2が生成した文章を「説得力がある」と感じたものの、8月に公開した7億7400万のパラメーターを持つモデルと比較した場合、わずかしか向上しなかった。生成された文章を人がどの程度信頼するのか、コーネル大学が調査を実施した。
 OpenAIは、GPT-2を悪用のために「微調整することが可能」だと述べている。ミドルベリー大学のテロ・過激主義・テロ対策センター(CTEC)によると、白人至上主義、マルクス主義、イスラムのジハード主義、無政府主義などを擁護するよう、GPT-2に手を加え、プロパガンダを生成できる恐れがあるという。
 OpenAIは、15億のパラメーターを持つGPT-2リリースと共に公開した文書で、「GPT-2を悪用する動機とリソースを持っている可能性が高い」のは、APT(高度で継続的な脅威)攻撃者だと指摘している。しかしOpenAIは、そうした脅威に対抗するだけのリソースがないことなどから、CTECとコーネル大学の協力を得た。
 一方、OpenAIはより低レベルの脅威について、以前考えられていたほど差し迫った問題ではないとみている。現時点では、GPT-2が悪用された証拠は見つかってないという。
 OpenAIは、15億個のパラメーターを持つGPT-2モデルで生成されたテキストの検出で、検出精度が約95%の検出モデルを開発している。高い数値だが、OpenAIはメタデータベースのアプローチのほか、人間による判断や一般の啓発などを通じて、検出システムをさらに強化する必要があると考えている。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
メールマガジン購読のお申し込み
あなたにおすすめの記事
自給自足ハウスから顔パス玄関まで--AI・スマート住宅 EXPOで見つけた少し未来の家
テスラが勝ったとするトラック綱引き、フォードは「当社がリーダー」と揺るがず
国内初の「Nintendo TOKYO」や技術活用のエリアも--新生「渋谷PARCO」が公開
グーグルのDeepMind、AI訓練プラットフォームをオープンソース化
2016年12月06日 11時29分
国家関与の高度で危険な18のマルウェア
2019年08月16日 06時30分
AIへの対応に1.2億人の再教育が必要--IBM調査
2019年09月12日 07時30分
富士ゼロックス:ユーザーにとことん”やさしさ”を--多様面での利便性を追求
2019年10月30日 07時00分
ジャパンネット銀行、セキュリティに「Splunk」--とにかくデータを投入
2019年11月01日 07時15分
タグ
製品・サービス
-PR-企画特集
次の一手はこれだ!
ZDNet×マイクロソフトが贈る特別企画今、必要な戦略的セキュリティとガバナンス
カシオが挑む新規事業【後編】
G-SHOCKやデジカメなどのコア技術を応用「共創」で新事業を創出するカシオの挑戦
カシオが挑む新規事業
自前主義から脱却し掴んだビジネスチャンス異業種のパートナーとの共創で光る技術力
あなたにおすすめのホワイトペーパー
ウイルス対策ソフトはもはや必要か否か
「顧客の今」がなぜビジネスに貢献するのか - HBR調査で見る「リアルタイムアナリティクス」の効果
今注目の人気プログラミング言語
徐々に広がりを見せる“5G”ビジネス
AIのメリットを引き出す「7つの領域」と「17の活用シーン」
自社の働き方改革の取り組みに効果を感じている企業は「2割」の衝撃!調査から明らかになった課題とは
人気キーワード
経営
セキュリティ
クラウドコンピューティング
モバイル
ビジネスアプリケーション
マーケティング
デジタル製品主要記事
「LoL」のライアットゲームズ、新作PCゲーム「VALORANT」の正式サービスを開始
「Pixel」シリーズに新機能--睡眠改善の「おやすみ時間」や安全機能など
麻倉怜士のデジタル時評--新ステージ突入MQAが次に目指す映像とのコラボ
Apple Store全店舗で営業再開--6月3日より客もスタッフもマスク着用で
Facebook、ファンと実況放送者を結ぶライブイベント用アプリ「Venue」をリリース
Apple Storeの再開進む、貿易戦争に新たな局面
もっと見る
ZDNet Japan 注目ヘッドライン
日立、在宅勤務を活用する新しい働き方を制定
「iPad」をノートPC代わりに--どんなアプリが必要か考える
「Windows 10 May 2020 Update」にドライバーの互換性に関する問題が報告
「Microsoft Teams Rooms」がまもなく「OAuth 2.0」認証に切り替え
日本IBM、緊急事態宣言解除後の勤務・出社などの方針を発表
編集部おすすめの記事
KDDI流の「アジャイル開発」で新規ビジネスを創出--3名のキーマンが語る組織作りの本質
「KDDI DIGITAL GATE」が“3週間”でプロダクトを開発できるワケ--山根センター長に聞く
ドコモ・ベンチャーズは2020年度も「積極的に投資」--稲川社長が語る“正統派CVC”の強み
ドコモ・ベンチャーズの“堅実な投資”の立役者--エンジニア出身キャピタリスト矢島氏の目利き
DJ TAROさんが明かす「自宅からJ-WAVE生放送」の舞台裏--機材やシステムも紹介
本日の主要記事
「Microsoft Teams」に新機能--「Skype」相互運用やチャットのポップアウトなど
Facebook従業員がストライキ--トランプ大統領の投稿を放置する対応に抗議
麻倉怜士のデジタル時評--新ステージ突入MQAが次に目指す映像とのコラボ
アップル、全米各地の店舗を一時休業--警察に対する抗議活動の暴徒化で
マジシャンとして公演200回超え--NTT西日本の新規事業創出プロデューサーが説くイノベーターの鍵
CNET Japan(Facebook窓)
The Japanese edition of 'CNET' is published under license from CBS Interactive, Inc., San Francisco, CA, USA. Editorial items appearing in 'CNET Japan' that were originally published in the US Edition of 'CNET', 'ZDNet', 'TechRepublic', 'GameSpot' and 'CNET News.com' are the copyright properties of CBS Interactive, Inc. or its suppliers. Copyright (c) CBS Interactive, Inc. All Rights Reserved. 'CNET', 'ZDNet' 'GameSpot' and 'CNET News.com' are trademarks of CBS Interactive, Inc.
個人情報保護方針 | 利用規約 | 訂正 | 運営会社 | 広告について
ニュース
製品・サービス
企業・業界
社会
オフトピック
トピック
解説
リリース
イベント
過去記事
Marketers'
特集
インタビュー
オピニオン
CNET Japanブログ
CNETどっち?
ビジネスアプリセンター(Android)
ビジネスアプリセンター(iOS)
タグ
検索
デジタル製品
モバイル
PC
AV
デジタルカメラ
アップル
エンターテインメント
CNET_ID
新規登録
ニューズレター
RSSフィード
Twitter
Facebook
サイトマップ
朝日インタラクティブ
ZDNet Japan
builder by ZDNet Japan
TechRepublic Japan
Tetsudo.com
当サイトは最新ブラウザでの閲覧を推奨します。
Copyright (c) 2020 ASAHI INTERACTIVE, Inc. All rights reserved. No reproduction or republication
without written permission.
The Japanese edition of 'CNET' is published under license from CBS Interactive, Inc., San Francisco, CA, USA. Editorial items appearing in 'CNET Japan' that were originally published in the US Edition of 'CNET', 'ZDNet', 'TechRepublic', 'GameSpot' and 'CNET News.com' are the copyright properties of CBS Interactive, Inc. or its suppliers. Copyright (c) CBS Interactive, Inc. All Rights Reserved. 'CNET', 'ZDNet' 'GameSpot' and 'CNET News.com' are trademarks of CBS Interactive, Inc.
個人情報保護方針
利用規約
訂正
運営会社
広告について
当サイトは最新ブラウザでの閲覧を推奨します。
Copyright (c) 2020 ASAHI INTERACTIVE, Inc. All rights reserved. No reproduction or republication without written permission.
このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。
これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]