人類に媚びすぎたChatGPT、修正される。既にロールバック済みか

OpenAIは、ChatGPTの最新モデル「GPT-4o」における最近のアップデートについて、「過度にお世辞を言う」といったユーザーからの苦情が相次いだことを受けて、変更を撤回しました。

↑Daniel CHETRONI/Adobe Stockより。ちょっとお世辞を言いすぎたようです。

 

先週後半にアップデートが展開された後、ChatGPTがユーザーのどんな意見にも無批判に賛同したり、不自然なほど賛辞を繰り返すようになったため、X(旧Twitter)などのSNS上では「不気味」「不快」といった批判が広まりました。

 

OpenAIのサム・アルトマンCEOもこの問題を認め、「性格があまりにも媚びへつらって、鬱陶しくなってしまった」とコメントしています。そのうえで、無料ユーザーにはすでにロールバック(巻き戻し)を完了しており、有料ユーザーにも順次修正を適用すると述べました。

 

OpenAIは公式ブログでも、「短期的なフィードバックに重点を置きすぎた結果、誠実さに欠ける過剰に支持的な回答へと偏ってしまいました」と説明しています。

 

あわせて、今後は以下のような改善策を講じると発表しています。

  • トレーニング手法の見直し

  • 誠実さを担保するガードレール(制御機構)の強化

  • リリース前テストの拡充

  • ユーザーからのフィードバック体制の強化

 

さらに、ユーザーがChatGPTの応答の性格やスタイルをより調整しやすくするための新たな取り組みも進めるとしています。これには、リアルタイムでフィードバックを反映する仕組みや、将来的に複数の「デフォルトパーソナリティ」(特別なカスタマイズを行わない場合の基本的な性格)から選べるオプションの提供も含まれています。

 

Source:OpenAI

via::MacRumors

万能すぎて手放せなくなりそう……!音声のテキスト化、要約に翻訳もこなすAIスマートノート「iFLYTEK AINOTE Air 2」

iFLYTEK JAPAN AI SOLUTIONSは、手書きメモや音声をリアルタイムでテキスト化し、さらに要約や翻訳までこなすAIスマートノート「iFLYTEK AINOTE Air 2」を4月24日に発売しました。アナログの良さとデジタルの利便性を融合させた、ビジネスや学習シーンでの活躍が期待される一台です。

 

記事のポイント

手書きと音声入力、そしてAIによるテキスト化・要約・翻訳機能を一台にまとめた意欲作。手書きの自由度を保ちながら、後からの検索や編集、共有といったデジタルのメリットを最大限に活用できます。E-inkディスプレイで目に優しい点も、長時間使うデバイスとしては重要なポイントです。

 

紙のような自由度とデジタルの利便性を両立

同社が独自開発したOCR(光学的文字認識)技術により、紙にペンで書くような感覚で記した文字を、瞬時にテキストデータへ変換します。日本語や英語はもちろん、83の言語の手書き文字に対応。認識精度も96%と高く、メモ書きから議事録、アイデアスケッチにまで、幅広く活用できます。

 

もう一つの核となる機能が、AIを活用した音声認識です。内蔵された4つのマイクでクリアに集音し、14言語に対応した音声認識エンジンが、会議やインタビュー中の発言をリアルタイムでテキスト化。さらに、複数人が話している場合でも話者を自動で識別する機能を搭載。誰が何を話したかが明確になるので、議事録作成などの手間が大幅に削減されますね。

 

ChatGPTとも連携し、テキスト化された内容を元に、AIが自動で要約を作成。長時間の会議や講義の内容も素早く把握できます。

 

国際的な場面で活躍するリアルタイム双方向翻訳

「AINOTE Air 2」は、7言語に対応したリアルタイム双方向翻訳機能も搭載しています。例えば、国際会議や海外企業とのオンライン商談などで、相手の発言を即座に翻訳してテキスト表示したり、自分の発言を相手の言語に翻訳して伝えたりすることが可能です。

 

目に優しく多機能なE-inkディスプレイと充実の基本性能

ディスプレイには、目に優しい8.2インチのE-ink(電子ペーパー)スクリーンを採用。紙に近いモノクロ表示でブルーライトを発しないため、長時間のメモ作成や資料閲覧、電子書籍(pdf、mobi、epubなど多数の形式に対応)の読書でも目が疲れにくいのが利点です。

 

本体重量は約230g、最も薄い部分は5.0mmと薄型軽量設計で、持ち運びも苦になりません。ストレージは4GB RAMと32GB ROMを搭載し、Wi-FiとBluetooth 5.0に対応。バッテリーは2,600mAhで、最大7日間の連続使用(待機状態なら最大108日間)が可能です。

 

文書スキャンに使える5MPカメラも備えています。OSはAndroid 11.0を搭載しており、スマートデバイスとしての拡張性も備えています。

 

iFLYTEK JAPAN AI SOLUTIONS
iFLYTEK AINOTE Air 2
プレセール価格: 7万1800円(税込)

要注意! ChatGPT、写真から場所の高精度特定が可能に

人気のAIチャットボット「ChatGPT」の最新モデルでは、写真から撮影場所を高精度で特定する機能が話題となっています。

↑AdriaVidal/Adobe Stockより。SNSなどへの写真投稿にもいっそう気を付ける必要があるかも……。

 

この機能は、OpenAIの新しい画像モデル「o3」や「o4-mini」に搭載された強化された画像推論能力によるもので、X(旧Twitter)などのSNSでも注目を集めています。

 

これらのモデルは、ぼやけた写真や歪んだ画像でも分析が可能で、お店の看板や道路標識、メニュー、建築物など、視覚的に特徴のある情報を読み取ることができます。たとえ写真からEXIFデータ(位置情報)が削除されていても、視覚情報のみをもとに場所を推定できるのが大きな進歩と言えます。

 

さらに、ウェブ検索機能と組み合わせることで、その能力は飛躍的に向上します。実際、Xのユーザーたちは、自宅近所の道路風景、レストランのメニュー、バーの前での自撮り写真などを使って実験しており、都市名だけでなく具体的な場所まで突き止められた例も報告されています。

 

しかし一方で、この機能の悪用リスクも懸念されています。誰でもネット上の他人の写真を使って「これはどこ?」とChatGPTに尋ねることができてしまい、プライバシーの侵害につながる恐れがあるのです。もっともAIは常に正確とは限らず、推測が外れたり、ループや曖昧な回答になることもあるため、百発百中ではありません。

 

現在のところ、この機能は主に娯楽や実験的な使い方が中心です。しかし、利用者が増えるにつれて悪用のリスクも高まるため、OpenAIには一層の安全対策が求められるでしょう。

 

Source:BGR

OpenAI、ChatGPTで不正をする学生を見つけるツールを開発。公開できない理由とは?

OpenAIは、ChatGPTに宿題をさせる学生を捕まえられるツールを開発したものの、実際にリリースするかどうか議論していると報じられています。

↑不正行為はわかるらしいが…

 

米The Wall Street Journal(WSJ)紙によると、このツールは約1年前から提供される準備ができており、「ボタンを押すだけ」のところまで来ているとのこと。

 

OpenAIの広報は米TechCrunchに寄せた声明のなかで、実際にテキスト透かし(ChatGPTが生成したと識別できる印を埋め込む)方法を研究していると認めつつ、「複雑さとOpenAIの枠を超えた広範なエコシステムに影響する可能性」があるため、「慎重なアプローチ」を取っていると述べています。

 

具体的に同社が懸念しているのは、「悪質な行為者が回避する」ことや「英語が母語ではない人々などに不釣り合いな影響を与える」こと。つまり、悪知恵が効くユーザーには抜け道を探される一方、英語に慣れておらずChatGPTに頼る必要が高い人々が不利な扱いを受けかねないということでしょう。

 

これは、以前からの「生成AIが生成したテキストを検出しようとする技術」とは異なるアプローチです。そちらは、ほとんど成果が上がっておらず、OpenAIも「精度が低い」という理由で検出ツールを打ち切っていました

 

今回のテキスト透かしでは、OpenAIは他社のAIモデルを脇に置いて、ChatGPTによるカンニングを検出することだけに集中しています。ChatGPTの単語選びを少し変更することで、目に見えない透かしを作り、後で別のツールで検出できるようにするわけです。

 

WSJが記事を掲載した後、OpenAIはAIが生成したコンテンツ検出に関する研究についてブログ記事を更新。それによれば、テキスト透かしは、「言い換えのような局所的な改ざんに対しては非常に正確で、効果的でさえある」と証明されたとのこと。

 

しかし「翻訳システムを使ったり、別の生成AIで書き換えたり、各単語の間に特殊な文字を挿入し、その文字を削除するようAIに要求したりする」ような全般的な改ざんに対しては「あまり頑強ではない」ことが分かったと報告しています。

 

その結果、テキスト透かしは「悪意ある者による迂回が簡単である」とのこと。また、英語を母語としない人々にとっては「有用な執筆ツールとしてのAIの使用に汚名を着せる」可能性があるとも付け加えています。

 

確かに母語を英語に翻訳するためにChatGPTを使ったために、カンニングと判定されてはたまったものではないでしょう。ChatGPTでズルをしようとする学生は、その悪知恵を本来の学びに生かすように望みたいところです。

 

Source: The Wall Street Journal
via: TechCrunch

【23年上半期売れたモノ】有識者に聞きました! ChatGTPの有用性から活用術まで幅広く紹介

2023年上半期に売れたモノとして、ChatGPTを紹介する。デジタルに明るくない人でも、「ChatGPT」という言葉は耳にしたことがあるだろう。業務や生活のあらゆる場面で革命を起こしつつあるツールだ。

※こちらは「GetNavi」2023年8月号に掲載された記事を再編集したものです。

 

「AIの民主化」を劇的に進めた誰でも活用できる文章生成AI

対話型文章生成AI

OpenAI
ChatGPT

AIの開発や研究を行う米OpenAIが開発した生成AI。ビッグデータ学習に基づき、言葉の続きを予測する仕組みだ。複雑なプログラミング言語は要らず、日常的な話し言葉で使える。有料版では接続などが快適になるほか、高度な大規模言語モデル「GPT-4」も利用可能。

 

【始め方】メアド登録だけで簡単!

メアドかGoogleなどのアカウントを登録し、アプリ版などですぐに始められる。今回はブラウザからメアドを登録する手順を紹介。

<手順①>

↑ウェブサイトにアクセスし「Try ChatGPT」をクリック

 

<手順②>

↑「Sign up」へ進み登録するメールアドレスとパスワードを入力

 

<手順③>

↑メールが届くので「Verify email address」から認証を進める

 

<手順④>

↑名前や生年月日、認証コードなど必要事項を入力

 

<手順⑤>

↑登録完了! 下部の入力スペースからすぐに質問ができる

 

【聞いてみた】まずは基本性能をチェック

実際にどんな入力に対し、どんな出力をするのか。まずは簡単な質問を投げかけて、基本的な性能や回答の精度をチェックした。

↑概要や簡潔な仕組みなど、質問者が求めている情報を過不足なく出力。さらに、誤った情報を生成する可能性への注意喚起までしてくれた

 

↑質問への回答や文章の生成、校正などが挙がった。しかし、「タスクの管理やスケジュールの調整、リマインダーの設定など」の機能はない

 

↑「主にテクノロジーやエレクトロニクスに関する情報を提供」と、まるで科学情報誌のような表現。中らずといえども遠からずな印象だ

 

曖昧な質問への対応は?

趣向を変えて、クリエイティブな質問に挑戦。ChatGPTを紹介する企画で有用なネタが出せるのか試してみた。

Q「ゲットナビの企画案を出して」

↑「ビジネス活用法」の企画案は有用性が高い。なお、回答が長くなると途中で途切れてしまうので、おおよその文字数を指定すると良い

 

Q「企画案を改善して」

↑「リスク」「最新情報」についても盛り込むことを指示しつつ、改善案を要求。「有識者へのインタビュー」などの情報誌らしい企画案が生成された

 

【まとめ】質問を工夫すれば高度な作業の一助にも

ネット上の膨大なデータから確率論的に回答を作成するので、ときには誤情報や要点を外した表現もある。が、企画案の打ち出しなどクリエイティブ領域の文章生成は、条件をしっかりと設定してあげれば実用レベルに達すると言える。

 

結局ChatGPT時代にも情報リテラシーは必須です

かつては専門家のためのツール、あるいは研究対象だったが、近年急速に身近な存在となっているAI。うまく作業を任せ、リスクを避けるために必要なことは? 先端技術に詳しい有識者に聞いた。

この人に聞きました

ガジェットライター
武者良太さん

出版社勤務を経て独立。ハードウェアレビューから、AIやITビジネスなどのテクノロジー領域まで取材執筆を行う。

 

情報を適切に扱えば最良のアシスタントに

ChatGPTはGoogleなどの検索エンジンに置き換わるもの、という説があります。対話型のUIゆえに、クリティカルな検索ワードが思い浮かばなくともうろ覚えな問いかけを続けていけば、自分の知りたい情報に近づけるため、「情報検索コンシェルジュ」としての機能を持っていると言えます。また従来の検索エンジンは情報をダイレクトに教えてくれる辞書的な要素が強いですが、ChatGPTはその情報の活用例までも提示してくれます。「編集者」など役割を指定してテーマを伝えることで、企画立案のための様々なアイデアを出してくれますし、対話を続けることで実現性重視の案を絞り込む際の手伝いもしてくれます。ほかにも、私の知人の子どもは、アルバイト先に自分のストレスを伝え、掛け合うためのレポートを作ってもらったそう。扱う人によって様々な活用法があるのだなと実感しました。

ただし、ChatGPTは全能というわけではありません。元となる情報はウェブ上にあるものに限られます。例えばWikipediaには特定のユーザーが有利になるポジショントーク的な情報が掲載されていることがありますが、そうした情報も単なる事実として伝えてきます。複数の情報を重ねて虚実をないまぜにする傾向もあります。AIが進化することで真偽判断の精度は高まりますが、頼りきるのは不安。出力された情報が本当に正しいかの判断は、人間自身が行わなくてはなりません。あくまでひとつの回答例だと捉えたうえで内容を精査することを心がけていれば、誰にとっても良いアシスタントとなってくれるでしょう。

 

有用性とリスク

<対話型ならではの自然な文章生成>

従来型の検索エンジンとのもっとも大きな差異が、「対話型」であること。状況を設定して何かアドバイスを求めたり、メールの返信例を考えてもらったりもできる。

 

<ニュースや議事録を簡潔に要約>

人間がファクトチェックを済ませた情報を扱わせるのは特に有効だ。長い文章や長時間に及んだ会議の内容を、簡潔な文章に要約する際などに活躍する。

 

<多言語について文法や表現の添削>

単に文法を添削してもらうほか、和訳や英訳、ネイティブの話し言葉に近い文法へや、ビジネスメールにふさわしい表現へなど、シーンにふさわしい文面を検討できる。

 

<企画案などの叩き台を出力>

クリエイティブな分野では、ときに自分では気づけなかった視点を提供してくれる。物足りない回答でも、追加の要望や条件設定を与えてブラッシュアップ可能。

 

<ビッグデータに基づき誤った情報を回答>

文脈上いっしょに使われることが多いが質問とは無関係なワードが回答されることもある。

 

<機密情報の入力で生じるリスクが大きい>

入力した情報がAIの学習に利用される可能性を考慮して、個人情報や社外秘の情報の入力は避ける。また、文章の著作権に関しては、まだ判例も少なく課題も多い。

 

先駆者たちに学ぶ活用事例

早くも対話型AIを活用している、先進的な企業と自治体、便利なサービスを紹介。その取り組みから学べることは多い。

<その①>パナソニックコネクト

国内全社員にAIの利用を推奨

同社は2月に自社バージョンのAIアシスタント「ConnectAI」を全社員向けに導入。ビジネスでAIを活用することが当たり前になる時代に備え、早期からスキルを習得することを目指す。会議の進行方法を聞く、アイデアを出すなど幅広く活用しており、特にプログラム関連の作業では効率化につながっているという。

 

<その②>神奈川県横須賀市

実証の結果を踏まえAIスキル向上へ

4月よりChatGPTの全庁的な活用実証を行ったところ、業務効率化の実感や継続利用への意向が高い一方で、すべての職員が適切に使いこなせたわけではなかった。今後は「GPT-4」の導入やスキルアップのための施策を実施予定。生成AIのさらなる利活用に向け、協力可能な民間企業とも積極的に連携を図りたい考えだ。

 

<その③>ブレインウェーブコンサルティング AIマッハ履歴書

7つの質問に答えると約10秒で履歴書を書き上げる

ChatGPTを活用した履歴書作成サービス。自己の強みや志望企業のURLなど簡単な7つの質問事項を入力するだけで、約10秒でAIが志望動機や自己PRを生成する。履歴書は厚生労働省のフォーマットに準じており、記入された状態のPDFデータを出力。質問には具体的に回答するほど、個性豊かな履歴書が完成する。

 

<コレもCheck>対話型AIの実装でPCの利便性も新次元に突入

Microsoft
Windows Copilot

米マイクロソフトが開発した対話型のAIアシスタントで、6月からWindows 11向けにプレビュー版を提供。実装されれば、AI支援機能を集約した初のPCプラットフォームとなる。作業に適する設定のアドバイスや、文章の要約など、生産性アップに期待。

日本語もなかなかできる!「watchGPT」が「Petey」と名付けられ、一回り大きくなる

先日、大人気のAIチャットボット「ChatGPT」をApple Watchから手軽に使えるアプリ「watchGPT」を紹介しましたが、このアプリが「Petey」と名前を変えてバージョンアップし、最新のチャットAI技術「GPT-4」に対応しました。

↑Peteyになりました

 

3月初めに登場した後、「watchGPT」はすぐに話題となってApp Storeのトップに躍り出ました。しかし、3月13日に名称が「Petey-Watch Assistant」に変わり、その後も着々と改良が続けられています。

 

このアプリはApple Watchを通じて、手首からChatGPTと対話できるというもの。チャットの結果はテキストや電子メール、SNSで素早く共有することができ、文字盤からすぐにアクセスできるコンプリケーション(ショートカット)も用意されています。

 

最新版のバージョンは1.2で、GPT-4にも対応(アプリ内購入で400円の買い切り)、連続して会話するマルチプロンプトも可能です。初期バージョンは、単発で質問できるだけでした。

↑Peteyとの対話例

 

現在では日本語にも対応しており、キーボードあるいは音声入力で質問できます。キーボード入力は少し難しく、音声認識の精度は必ずしも高くありませんが、その回答は読み上げられ、本当に「手首に話しかけると、音声で答えてもらえる」SFのような体験が実現しています。

 

Peteyの機能をまとめると次の通りです。

  • ChatGPT(アプリ内課金をすれば最新版のGPT-4)とApple Watchからすぐに対話できる
  • テキスト、電子メール、またはSNSを通じて、チャットの結果をシェアできる
  • アプリをコンプリケーションとして設定し、すぐに起動できる
  • アプリが音声で回答を読み上げる

 

Peteyは買い切りアプリで、日本での価格は600円。GPT-4を使いたい場合は追加で400円を支払うことになりますが、それ以上の課金はありません。日本語に対応していることもあり、気軽にハイテクの最先端に触れてみてはいかがでしょうか?

 

Source:App Store
via:9to5Mac