■｢ChatGPT｣に浮かれる人が知らない恐ろしい未来
新井紀子氏｢非常に危険なものが生み出された｣
東洋経済 2023/03/04 武山隼大 森田宗一郎
https://toyokeizai.net/articles/-/656682
～～～
2022年11月の公開から瞬く間に大旋風を巻き起こしたAIチャットボット「ChatGPT」。
その技術を自社の検索エンジン「Bing」に取り入れたマイクロソフトと、生成AIの進化に貢献した深層学習の手法「Transformer」を生んだグーグルによるAI競争も、熾烈さを増している。
一方で、こうした生成AIの回答には誤りも多く、社会にもたらす悪影響への懸念がくすぶる。
このテクノロジーとどう向き合うべきなのか。国立情報学研究所 社会共有知研究センター長で、2011年にスタートした人工知能プロジェクト「ロボットは東大に入れるか」のプロジェクトディレクタを務めた新井紀子氏に聞いた。
インタビューの中で新井氏は、「この非常に魅力的かつ明らかに未熟な技術が、短期的に社会にもたらすコストとリスクを、私たちは背負う覚悟があるのか。この点について考えなければならない」と指摘した。
――ChatGPTやBingchatが続々と公開され、自然な受け答えを評価される一方、誤りの多さについて懸念も上がっています。
Transformerの登場以降、書き手が人か機械かの見分けがつかないほど、AIの生成する文章がとても自然になっていると感じています。
プロジェクトで東大を目指したAI「東ロボくん」は使える資源（パラメータ）が十分になく、知っていることを時代順に羅列することが精いっぱい（ストーリーを作ることができず、一文一文事実を述べることしかできない）でした。
これがデータ量を数千倍に増やすと、突然精度が上がるなど、今までの蓄積では説明がつきにくい現象が起こっています。
ここまでいくと、人間では誤りがなぜ、どのようにして起こったのか把握することが難しく、修正も極めて困難ではないかと。
・AIは100％正しくなるのか？
――AIがいくら賢くなっても、100%の正確性は実現しないのでしょうか。
もちろんそうです。AIを工学分野だと思っている方も多いでしょうが、これができたきっかけは数学基礎論という分野なんです。
数学の枠組みで動く限り、AIは「言語」を「記号」として認識し計算処理することはできても、その「意味が正しい」と理解することができない。
よって、AIが100％正しくなるというのは、科学的に無茶な命題です。
――実際にChatGPTを利用すると、ちゃんと意味を理解しているように見えてしまう部分もあります。
おそらく心理学的な効果ではないでしょうか。
ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。
そのため、知的レベルが高い人でも「こっちのほうが正しいんじゃないか」と、信念や心理を揺さぶられる。
ChatGPTで昨年度の東京大学の世界史の第1問、600字の大論述を解かせてみました。
全部を入力するとモデリングに失敗するので、正確には、「8世紀から19世紀までの時期におけるトルキスタンの歴史的展開について記述せよ。
ただし、次のキーワードを使うこと。アンカラの戦い、カラハン朝、乾隆帝、宋、トルコ＝イスラーム文化、バーブル、ブハラ・ヒヴァ両ハン国、ホラズム朝」と入力したところ、次のような出力が戻ってきました。
【東大の世界史問題に対するChatGPTの回答】
すごく滑らかです。「この時期には」のような、いかにも人間が書きそうなことを、なかなか東ロボくんは書けませんでした。
でも、この答えは嘘ばかり。
まずバーブルは15世紀生まれなので、13世紀にトルキスタンを征服することはできません。
また、（9世紀ごろにトルコ系民族のウイグルが定住するようになった）トルキスタンの歴史が「古代から根を張っており」という表現もおかしい。
スルッと頭に入ってきてしまうので、ファクトチェックがものすごく大変なんです。
英語でも試してみましたが、ほぼ同じ解答でした。
そして、「トルキスタンはカラハン朝によって統治されました。カラハン朝は中国の宋朝との貿易関係を築き」という文章に至っては、今も真偽がわかりません。
山川出版社の教科書やウィキペディアなど、どこを調べてもそんなこと書いていない。
嘘かもしれないけど、「もしかすると最先端の歴史学か何かで、新事実が発見されたのかも」と、人間の信念が揺らいでしまう。
ちなみに、代々木ゼミナールの世界史の先生方に採点を依頼したところ、「0点」というお返事がありました。
「部分点を与えられる箇所がまったくないので驚いた」とのことでした（「〇世紀」の部分がすべて間違っている。問題で8つの指定語句を使うように命じているにもかかわらず、6つしか使っていないなど）。
・進化したAIに対する「2つの論調」
――このようなAIと、社会はどのように向き合えば良いのでしょうか。
こういう話は、だいたい2つの論調に分かれます。
「このようなテクノロジーは、破壊的で悪いものだ」という考え方と、「今はまだ発展途上の面もあるが、近い将来に完全なものとなる。揚げ足を取るのではなく、長期的に得られる恩恵について目を向けるべきだ」という考え方です。
これを見ていると、ケインズとミクロ経済学者の論争を思い出します。
ミクロ経済学者が「市場に任せれば、本来的には調整される」と言うのに対し、ケインズは「長期的にわれわれは皆死ぬ」と言ったんですよ。
一言で「長期的」といっても、どれだけ長期的なのかはわからない。
この非常に魅力的かつ明らかに未熟な技術が、短期的に社会にもたらすコストとリスクを、私たちは背負う覚悟があるのか。
この点について考えなければならない。
これは“民主主義への挑戦”でもあります。
――「民主主義への挑戦」によって、何が起こりうるのでしょうか。
例えば、あるネットメディアがChatGPTに「それっぽい文章を書きなさい」と指示し、気が遠くなるほどの数のフェイクニュースを毎日どころか毎秒ばらまいたとしましょう。
そうなってくると、人力のファクトチェックは追いつかない。
AIも自分の中に「正しさ」を持っておらず、誤りを正すことができません。
2024年のアメリカ大統領選はそういう中で行われることになる。
マイクロソフトやグーグルが「こういう意図では使いません」と言おうとも、別の組織はそれを悪用できます。
このようにして生まれたフェイクニュースによって、根も葉もないデマで誰かが血祭りに上げられ、誤った政策誘導がされる――。
オープンな形で技術が世に送り出された以上、そういったことを防ぐことができません。
このように、非常に危険なものが生み出されたことを受けて、短期的に私たちがどう向き合うかが今、問われているのです。
～～～
｢ChatGPT｣に浮かれる人が知らない恐ろしい未来
新井紀子氏｢非常に危険なものが生み出された｣
東洋経済 2023/03/04 武山隼大 森田宗一郎
https://toyokeizai.net/articles/-/656682
■「グーグルは危険、使用中止せよ」元社員が本気暴露！ 検閲、プライバシー無視…
TOCANA 2020.01.13
https://tocana.jp/2020/01/post_136137_entry.html
～～～
自分が所属する組織を内部告発するなんて、よほどの勇気が要るだろう。
それがいわゆる“GAFA”の1社ならなおさらだ。
だが、ザック・ヴォリー氏の信念は揺るがない。
彼は今、筋金入りの愛国者として矢面に立っている。
・「表示コンテンツが独自の優先順位で調整される」
昨年8月、グーグル社で上級ソフトウェアエンジニアとして8年以上勤務してきたザック・ヴォリー氏は、捨て身の内部告発に踏み切った。
そして、1000件に上る内部文書を漏洩し、グーグルがもはや信頼できる検索ツールではない理由を明らかにした。
「私は何年も前から訴えてきました、グーグルは危険であると。情報は検閲され、ユーザーのプライバシーは盗まれます。コンテンツは独自の優先順位で調整されます。すると、同社の思惑が反映された検索結果から人々の社会的行動に影響が及ぶことは想像に難くないでしょう」（ザック・ヴォリー氏）
～～～
「グーグルは危険、使用中止せよ」元社員が本気暴露！ 検閲、プライバシー無視…
TOCANA 2020.01.13
https://tocana.jp/2020/01/post_136137_entry.html
■Googleの検索結果上位は「Googleが所有するウェブサイト」に占められているとの指摘
GIGAZINE 2020年07月29日
https://gigazine.net/news/20200729-google-top-search-result/
～～～
Google検索は世界中で広く使われており、アメリカ全体で行われる検索のうち90％近くがGoogle検索を使ったものだともいわれています。
そんなGoogle検索について、テクノロジー関連の問題を調査する非営利のニュースサイト・The Markupが行った分析により、「Google検索結果の上位は『Googleが所有するウェブサイト』によって占められている」ことが判明しました。
Googleの共同創業者であるラリー・ペイジ氏はGoogle検索について、「私たちはあなたをできるだけ早くGoogleから脱出させ、適切な場所に移動させたいと考えています」と2004年に述べました。
つまり、検索エンジンは検索ワードに対して適切な答えとなるウェブサイトのリンクを表示し、検索エンジンそのものから早く適切なウェブサイトへ誘導することが重要だとペイジ氏は考えていたわけです。
しかし、近年のGoogle検索結果はGoogleが所有するウェブサイトやGoogleが提供するナレッジグラフに占められており、Googleは自身の提供するコンテンツがユーザーにとっての「適切な場所」だと考えているとMarkupは指摘。
実際にMarkupが直近の人気クエリ1万5000件について調査したところ、iPhoneなどのモバイルデバイスの検索で最初に表示されるページのうち、実に41％がGoogleの所有するウェブサイトまたはナレッジグラフであることが判明。
検索ボタンを押した直後に表示されるページ範囲に限定し、かつスクロールをしなかった場合は、62.6％がGoogle関連のもので占められていました。
Markupが用いたサンプルクエリのうち5回に1回は、遷移直後のスクリーン上に表示される範囲に、Google以外のウェブサイトに飛ぶリンクが1つも存在しなかったそうです。
～～～
Googleの検索結果上位は「Googleが所有するウェブサイト」に占められているとの指摘
GIGAZINE 2020年07月29日
https://gigazine.net/news/20200729-google-top-search-result/
■検閲、悪魔、横暴、独占… Google支配
TOCANA 2019.08.01
https://tocana.jp/2019/08/post_104318_entry.html
～～～
いつからだろう、検索エンジンといえばグーグルとなったのは。
すっかりお世話になりっぱなしで、もはやググらない生活には戻れそうにない昨今だが――。
・グーグルは「中立的検索エンジンとは言い難い」
とはいえ、グーグル検索で“無修正の真実”にアクセスするのは至難の業だ。
グーグル社の上級研究員ジェン・ジェンナイ氏が認めるように、グーグルとしては、ユーザーに「グーグルが見せたいもの」だけを都合よく見てもらいたいのだから。
「グーグルが過去10年間に行った変更頻度はすさまじく、多くの情報源がアルゴリズムによって完全にブロックされているため、すでに有用な中立的検索エンジンとは言い難いでしょう」（ジェン・ジェンナイ氏）
「キーワード入力補助」というのがある。
一見、親切設計にすら感じられるが、この便利な機能こそグーグルの陰謀といえよう。
ある特定の方向性へとユーザーをミスリードしようとする。
もちろん、ユーザーはコントロールされていることを自覚できない。
グーグルの影響力は無意識的であり絶大なのだ。
～～～
検閲、悪魔、横暴、独占… Google支配
TOCANA 2019.08.01
https://tocana.jp/2019/08/post_104318_entry.html
■グーグル八分
（出典: フリー百科事典『ウィキペディア（Wikipedia）』）
～～～
グーグル八分とは、グーグルの基準に該当するウェブサイトが、Googleのデータベースから除かれ、Google検索しても内容が表示されない状態になることを、村八分になぞらえて呼ぶ言葉である。
Googleの検閲行為とも言われる。
英語では「Censorship by Google」あるいは「Google Censorship」と呼ばれる。
グーグル八分とは、インターネットの検索エンジンサービス提供会社Googleが、提供する検索サービスの検索結果として表示されるはずのサイトの一覧から特定のサイトを取り除き、利用者が検索サービスを利用する際にそれらのサイトを表示しないようにすることである。
Googleは検索情報として提供される情報自体はGoogleが主体的に決定できるものであり、Googleが任意にそのようなことをする権限を持つとしている。
インターネットの利用に際しては検索エンジンを利用することが多く、また、検索エンジンサービスは事実上寡占状態であるため、一企業の内部的な決定で検索結果が恣意的に変更されることについては異論も多い。
【グーグル八分と検索エンジン・ナショナリズム】
グーグル八分のような、外国の私企業による情報の制限について。
日本においては2007年10月にCEATEC会場で、経済産業省の研究会から生まれた産学連携プロジェクト「情報大航海プロジェクト」のブースにおいて、Googleの検索結果から特定のWebサイトが表示されなくなる「Google八分」を紹介。
同様にフランスにおいては同様のプロジェクト「Quaero」（クエロ）が進められている。
～～～
グーグル八分（出典: フリー百科事典『ウィキペディア（Wikipedia）』）
https://ja.wikipedia.org/wiki/%E3%82%B0%E3%83%BC%E3%82%B0%E3%83%AB%E5%85%AB%E5%88%86
■「Google八分、知ってますか？」眞鍋かをりが“国策検索”アピール【CEATEC JAPAN 2006】
ITmedia NEWS 2006年10月05日
https://www.itmedia.co.jp/news/articles/0610/05/news092.html
～～～
「Google八分、知ってますか？」――薄型テレビや次世代光ディスクが注目を浴びるCEATEC（千葉県幕張メッセ、10月7日まで）会場の一角で、眞鍋かをりさんのこんな声が繰り返し響いている。
国産の検索エンジンを開発する経済産業省の研究会から生まれた産学連携プロジェクト「情報大航海プロジェクト」のブースだ。
情報大航海プロジェクトは、検索エンジンがGoogleなど米国企業に独占されている状況を打開し、日本発の次世代検索技術を研究・開発する狙いで発足した。
経産省は来年度の概算要求に50億円を計上。資金面でも支援していく計画だ。
同プロジェクトのコンソーシアムには企業や大学など56団体が参加しており、CEATECでは、大手電機企業と同じぐらい広いブースに、富士通やソフトバンクBB、シャープ、東京大学や早稲田大学など10団体が技術を展示している。
・「ものづくり日本」復活へ 日本HPが東京生産にこだわる理由
ブース内の常設ディスプレイとステージのスクリーンでは、眞鍋かをりさんがプロジェクトを紹介するビデオが繰り返し流れ、国産の検索技術開発の重要性を訴える。
同ビデオではまず、Googleの検索結果から特定のWebサイトが表示されなくなる「Google八分」を紹介。
中国政府が検閲対象とした情報や、国内の告発サイトがそれぞれGoogle八分にあったと語り、「検索結果が海外の特定企業に決められることがどれだけ怖いか分かるだろうか」と訴える。
さらに、国策で検索エンジン開発を決めたというフランスの事例を紹介しつつ、「情報大航海プロジェクトはフランスの後追いでもGoogle対抗ではない」と語り、画像や映像検索など、これまでになかった新しい検索エンジンを国内で開発し、生活を豊かにする、と意気込む。
～～～
「Google八分、知ってますか？」眞鍋かをりが“国策検索”アピール【CEATEC JAPAN 2006】
ITmedia NEWS 2006年10月05日
https://www.itmedia.co.jp/news/articles/0610/05/news092.html
■Googleの検索結果操作っぷりは予想をはるかに上回る…
「msnニュース」ギズモード（2019/11/19）
https://www.gizmodo.jp/2019/11/google-sure-screws-around-with-search-results-a-lot.html
■ヤフーの検索結果がGoogleになった背景
・ヤフーが独自の検索エンジンをやめた理由
「日本の検索エンジン技術の90％がGoogleに独占」
All About（企業のIT活用）水谷哲也
https://allabout.co.jp/gm/gc/373330/
■国産検索エンジン開発が頓挫した先にあるもの
「Googleが自らの意思でフィルタリングを実施」
「検索エンジンが無いというのは、「サイバーリスク」の1つとして考えるべきではないか」
ITmediaエンタープライズ（2013年02月01日）
https://www.itmedia.co.jp/enterprise/articles/1302/01/news021.html
■Yahoo! JAPANが米グーグルの検索エンジンを採用
日本経済新聞 2010年7月28日
https://www.nikkei.com/article/DGXNASFK2800S_Y0A720C1000000/
■ヤフーがグーグルの検索エンジンを採用、日本でもヤフー天下の終わりの始まりか
東洋経済オンライン 2010/07/27
https://toyokeizai.net/articles/-/4772
■実質は国内シェア96％を握る
ヤフー・グーグル提携の波紋
週刊ダイヤモンド 2010.12.27
https://diamond.jp/articles/-/10582
■グーグルが握っているあなたの｢個人情報｣
「ウェブ閲覧履歴をグーグルが集めている。また、アンドロイド・アプリの使用履歴をグーグルが集めているのも、行き過ぎだ」
The New York Times（執筆：Brian X. Chen記者、翻訳：藤原朝子）
東洋経済（2018/06/06）
https://toyokeizai.net/articles/-/223696
■グーグルが検索シェア９割死守に年１兆円
「グーグルはネット検索で９割近いシェアを握る独占的な地位」
東京新聞（2020年10月21日）
https://www.tokyo-np.co.jp/article/63337
■グーグル検索は｢独占｣､米国政府が暴いた全容
アップルに年間1兆円支払い､検索シェア拡大
東洋経済オンライン 2020/10/22 中川 雅博
https://toyokeizai.net/articles/-/383643
■上位企業による寡占とは 競争原理失う恐れ
「ネット検索や広告分野で競争を阻害とグーグルを提訴」
「企業同士が話し合って価格を高く設定したり、資本力を背景に取引先に圧力」
日本経済新聞 2021年5月16日
https://www.nikkei.com/article/DGXZQOUB062UV0W1A500C2000000/?n_cid=SNSTW005
■Googleは何を「独占」しているのか 元司法省幹部が解説 米議会で27日に公聴会
東京新聞 2020年7月21日
https://www.tokyo-np.co.jp/article/43792
■シェアは92.2％！Google検索が世界一になった理由とは？？
日常化したメディアとしての「プラットフォーム」
週刊現代 2020.09.13
https://gendai.media/articles/-/75440
■Googleの検閲、言論統制がすごい！
知識と実践と真実と～知行合一～
http://hcg-mkt.com/post-2667
■グーグルの見えない言論・思想統制「グーグル八分」
アメブロ 2020-05-10 翔ちゃんのブログ
https://ameblo.jp/truthelohim/entry-12595958810.html
■グーグル検索が「グーグル検閲」に—–グーグルが進歩派サイトへのアクセスを抑制
gooブログ 2017年09月08日 | 気まぐれ翻訳帖
https://blog.goo.ne.jp/kimahon/e/34c60f4ced8576c1e3329af6e1f99b9c
■Googleの検索結果を鵜呑みにするのは危険な３つの理由～グーグルって何？
2018年12月24日 副業起業大学学長サトシ
https://hayashisatoshi.com/google-3
■知らない間にあなたもGoogleに監視されている
TAMA BLOG：2021年10月5日
https://soukai213.com/monitoring-google
■Googleの検索結果がひどい！
みなためラボ：2021年06月07日
https://minatame-lab.com/google-search-result-shit/
■検索結果は操作されている！
はてなブログ 2014.01.21 おとなのらいふはっく
■『デジタル・ファシズム 日本の資産と主権が消える』
著者： 堤未果
出版社：NHK出版
発売日：2021年08月31日
コロナ禍の裏で、デジタル改革という名のもとに恐るべき「売国ビジネス」が進んでいるのをご存じだろうか？
アマゾン、グーグル、ファーウェイをはじめ米中巨大テック資本が、行政、金融、教育という、日本の“心臓部”を狙っている。
デジタル庁、スーパーシティ、キャッシュレス化、オンライン教育、マイナンバー……
そこから浮かび上がるのは、日本が丸ごと外資に支配されるXデーが、刻々と近づいている現実だ。
https://a.r10.to/hD9lT7
■デジタル・ファシズムへの不安
利便性の背後にあるものは
・日本政府のプラットフォームを米国のIT企業がつくる
・私たちの個人情報が米国に漏洩？
「アマゾンに限らず、グーグル、フェイスブック、アップル、マイクロソフトの「GAFAM」といったIT大手の持つデータを、米政府は令状なしで開示請求することもできる」
論座（朝日新聞）
https://webronza.asahi.com/politics/articles/2021091600009.html
■グーグルやアマゾンに価値観まで変えさせてはならない
CNET News 2020年01月28日
https://japan.cnet.com/article/35148531/
■【米国思想リーダー】目に見えない「情報統制」 ＝調査ジャーナリスト、シェリル・アトキンソン氏インタビュー
■グーグルはどれぐらい私たちの情報を知ってるのか？！
■デジタル・ファシズムへの不安 デジタル庁の発足で日本は……～堤未果の警告
2021/09/20
コメント