AIを使って企業を破壊する方法【読書レビュー／The Coming Wave】

AIに関する本を読みました。衝撃だったので共有です。

» The Coming Wave: Technology, Power, and Greatest Dilemma

気になる部分だけどうぞ

※補足：危機感を煽りたい訳じゃないです。Google社で「元AI事業のトップ」が書いた内容です。知っておくことが重要。何も知らずにAIを恐れると、未来の意思決定で失敗すると思います。

AIでアフィリエイトを自動化できる（３〜５年後）

What we would really like to know is, can I give an Al an ambiguous, open-ended, complex goal that requires interpretation, judgment, creativity, decision-making, and acting across multiple domains, over an extended time period, and then see the Al accomplish that goal? Put simply, passing a Modern Turing Test would involve something like the following an Al being able to successfully act on the instruction "Go makes 1 million on Amazon in a few months with just as 100,000 investment." It might research the web to look at what's trend-ing, finding what's hot and what's not on Amazon Marketplace; generate a range of images and blueprints of possible products; send them to a drop-ship manufacturer it found on Alibaba; email back and forth to refine the requirements and agree on the contract; design a seller's list-ing, and continually update marketing materials and product designs based on buyer feedback. Aside from the legal requirements of registering as a business on the marketplace and getting a bank account, all of this seems to me eminently doable. I think it will be done with a few minor human interventions within the next year, and probably fully autonomously within three to five years.

私たちが本当に知りたいのは、AIにあいまいで、長期的で複雑な目標を与えることができるかどうかです。この目標を達成するためには、解釈や判断、創造力などが必要です。簡単に言うと、現代のチューリングテストの合格とは、例えばAIが「100,000の投資で数ヶ月でAmazonで100万を稼ぐ」という指示に成功することです。AIはネットで流行を調査し、Amazonでの人気商品を探すでしょう。可能な製品の画像や設計を作り、それをAlibabaで見つけたメーカーに送るかもしれません。要件を詰めたり契約に合意するためのメールのやりとり、売り手のリストの作成、そして購入者の反応に基づいてのマーケティング資料や製品デザインの更新などを行うでしょう。マーケットプレイスでのビジネス登録や銀行口座の開設といった法的な手続きを除けば、これは十分に実現可能に思えます。私は、来年中には少しの人の手を借りて、そして3〜5年以内には完全に自動で実現されると思います。

AIでコロナより危険なウイルスを作れる

Someone could soon create novel pathogens far more transmissible and lethal than anything found in nature. These synthetic pathogens could evade known countermeasures, spread asymptomatically, or have built-in resistance to treatments. If needed, someone could supplement homemade experiments with DNA ordered online and reassembled at home. The apocalypse, mail ordered.

自然界に存在するものよりも感染しやすく、致命的な新しい病原菌を作れるようになるかもしれません。これらの人工の病原菌は、既存の方法では見つからなかったり、症状を出さずに広がったり、治療への耐性を持っているかもしれません。ネットで注文したDNAを家で組み合わせて、自分で実験も可能です。そういったウイルスが、郵便で届くかもしれません。

AIの殺人兵器は「無人 × 自動照準」

There were no assassins on the ground that day. In the words of a New York Times investigation, this was a "debut test of a high-tech, computerized sharpshooter kitted out with artificial intelligence and multiple-camera eyes, operated via satellite and capable of firing 600 rounds a minute." Mounted on a strategically parked but innocuous looking pickup truck fitted with cameras, it was a kind of robot weapon assembled by Israeli agents. A human authorized the strike, but it was the Al that automatically adjusted the gun's aim. Just fifteen bullets were fired and one of the most high-profile and well guarded people in Iran was killed in under a minute.

その日、地上には暗殺者はいませんでした。ニューヨークタイムズの調査によれば、これは「AIと複数のカメラを使った最新技術の狙撃手の初テスト」でした。この狙撃手は、衛星を通じて操作され、1分間に600発撃つことができます。何の変哲もないピックアップトラックにカメラを装着し、イスラエルのエージェントによって組み立てられたロボットのような武器でした。人間が攻撃を指示しましたが、狙いを自動的に合わせたのはAIでした。たった15発の弾で、イランの有名でよく警護されていた人物が1分未満で亡くなりました。

Terrorists mount automatic weapons equipped with facial recognition to an autonomous drone swarm hundreds or thousands strong, each capable of quickly rebalancing from the weapon's recoil, firing short bursts, and moving on. These drones are unleashed on a major downtown with instructions to kill a specific profile. In busy rush hour these would operate with terrifying efficiency, following an optimized route around the city.

テロリストたちは、顔認識を備えた自動武器を、数百、あるいは数千もの自律型ドローン群に取り付けます。それぞれのドローンは、武器の反動からすばやくバランスを取り戻し、短い一連の射撃を行い、次に移動することができます。これらのドローンは、特定のプロファイルを殺す指示とともに、大都市の中心部に放たれます。混雑するラッシュアワーの中で、これらは恐ろしい効率で動きます。

鳥サイズの殺人ロボットが登場する

Now imagine robots equipped with facial recognition, DNA sequencing, and automatic weapons. Future robots may not take the form of scampering dogs. Miniaturized even further, they will be the size of a bird or a bee, armed with a small firearm or a vial of anthrax. They might soon be accessible to anyone who wants them. This is what bad actor empowerment looks like.

想像してみてください。顔認識、DNA解析、そして自動武器を持つロボットがいる様子を。未来のロボットは、動き回る犬のような形をしていないかもしれません。さらに小型化され、鳥や蜂のサイズになるでしょう。そして、小さな銃や炭疽菌のビンを持っているかもしれません。近い未来、これらのロボットは誰でも手に入れることができるようになるかもしれません。これが悪意を持った人々が力を持つ様子です。

AIを使って企業を破壊する方法

As the cybersecurity expert Bruce Schneier has pointed out, Als could digest the world's laws and regulations to find exploits, arbitraging legalities. Imagine a huge cache of documents from a company leaked. A legal Al might be able to parse this against multiple legal systems, figure out every possible infraction, and then hit that company with multiple crippling lawsuits around the world at the same time. Als could develop automated trading strategies designed to destroy competitors positions or create disinformation campaigns (more on this in the next section) engineering a run on a bank or a product boycott, enabling a competitor to swoop in and buy the company--or simply watch it collapse.

サイバーセキュリティの専門家、ブルース・シュナイアーが指摘しているように、AIは世界の法律や規定を解析し、抜け穴を見つけることができます。例えば、ある会社の大量の文書が漏洩したとしましょう。法律に詳しいAIは、これを複数の法制度と照らし合わせて、全ての違反を特定することができます。そして、その会社に対して、世界中で同時に大量の訴訟を起こすかもしれません。また、AIは、競合他社のポジションを破壊するための自動取引戦略を開発することができるかもしれません。また、銀行の取り付け騒ぎや商品のボイコットを引き起こすデマキャンペーンを行い、競合企業がその会社を買収するチャンスを作ったり、単にその会社が崩壊するのを見て楽しむこともできます。

研究所からの流出で、人類滅亡かも

2021年に研究所から天然痘が流出しかけた。実際に起これば大惨事。

In 2021, a pharmaceutical company researcher near Philadelphia left smallpox vials in an unmarked, unsecured freezer. Luckily, they were found by someone cleaning the freezer. The person was lucky to be wearing a mask and gloves. Had it got out, the consequences would have been catastrophic. Before it was eradicated, smallpox killed an estimated 300 to 500 million people in the twentieth century alone, with a reproduction rate equivalent to more contagious strains of COVID-19, but with a mortality rate thirty times that of COVID.

2021年にフィラデルフィア近くの製薬会社の研究者が、天然痘ウイルスを間違って冷凍庫に放置しました。幸運なことに、冷凍庫を掃除していた人が見つけました。その人はマスクと手袋をしていたので運が良かったです。もし外部に漏れていたら、結果は壮絶なものです。天然痘が撲滅される前に、推計3〜5億人が死亡しました。感染力はコロナと同様で、しかし死亡率は30倍です。

ここ40年で71件ほど、危険ウイルスが研究所から流出している

Between 1975 and 2016, researchers cataloged at least seventy-one either deliberate or accidental exposures to highly infectious and toxic pathogens

1975年から2016年の間に、研究者たちは少なくとも71件の高度に感染性があり、有毒な病原体への故意または偶発的な曝露をカタログ化しました。

コカイン取引を妨害する「AI × 虫」

Imagine activists wanting to stop the cocaine trade inventing a new bug that targets only coca plants as a way to replace aerial fumigation.

コカイン取引を止めたいと考える活動家が、空中散布を置き換える方法として、コカの植物のみを標的とする新しい虫を発明することを想像してください。

AIで全ての病気が治る未来が来るかも

CRISPR-based systems with names like Carver and PAC-MAN promise effective prophylactic ways of fighting viruses that, unlike vaccines, don't trigger an immune response, helping protect us against pandemics of the future. Fields like RNA editing are themselves opening a range of new treatments for conditions like high cholesterol and cancer

CRISPRベースの「Carver」や「PAC-MAN」のようなシステムは、ワクチンとは異なり免疫反応を引き起こさない効果的な予防的な方法でウイルスと戦うことを約束しています。これは、未来の大流行から私たちを保護するのに役立ちます。RNA編集のような分野自体が、高コレステロールやがんのような病状の新しい治療法の範囲を開いています。

遺伝子操作がオリンピックで禁止される

It won't be long before "gene doping" becomes a live issue in sports, education, and professional life.

スポーツ、教育、専門的な生活において、「遺伝子ドーピング」が実際の問題として浮上するのは、そう遠くないでしょう。

デジタル社会は「民主主義」を破壊する

A meta-analysis published in the journal Nature reviewed the results of nearly five hundred studies, concluding there is a clear correlation between growing use of digital media and rising distrust in politics, populist movements, hate, and polarization. Correlation may not be causation, but this systematic review throws up "clear evidence of serious threats to democracy" coming from new technologies.

Nature誌に掲載されたメタ分析は、ほぼ500件の研究結果を検討し、デジタルメディアの使用増加と政治への不信、ポピュリストの動き、憎悪、極端化との間に明確な相関関係があると結論づけました。相関関係が因果関係を意味するわけではありませんが、この体系的なレビューは、新しい技術から「民主主義への深刻な脅威の明確な証拠」を示しています。

行動コストが「急激にゼロ」に近づく

just as the costs of processing and broadcasting information plummeted in the consumer internet era, the cost of actually doing some. thing, taking action, projecting power, will plummet with the next wave. Knowing is great, but doing is much more impactful.

消費者向けインターネット時代に情報の処理と放送のコストが急落したのと同様に、次の波で実際に何かを行う、行動を取る、力を発揮するコストも急落します。知ることは素晴らしいことですが、行動することははるかに大きな影響を持ちます。

コンテンツの「質」での勝負は厳しい

Instead of just consuming content, anyone can produce expert-quality video, image, and text content.

単にコンテンツを消費するだけでなく、誰もが専門家並みの品質のビデオ、画像、テキストコンテンツを制作することができます。

トップ500社が、GDPの44%を独占

combined revenues of companies in Fortune's Global 500 are already at 44 percent of world GDP. Their total profits are larger than all but the top six countries annual GDPs. Companies already control the largest clusters of Al processors, the best models, the most advanced quantum computers, and the overwhelming majority of robotics capacity and IP. Unlike with rockets, satellites, and the internet, the frontier of this wave is found in corporations, not in government organizations or academic labs.

フォーチュンのグローバル500に入る企業の合計収益は、すでに世界のGDPの44％に達しています。彼らの純利益は、トップ6の国々の年間GDPを除いて、最も大きいです。企業はすでに最大のAIプロセッサクラスタ、最高のモデル、最も先進的な量子コンピュータ、そしてロボティクスの能力とIPの圧倒的多数を制御しています。ロケット、衛星、インターネットとは異なり、この波の最前線は政府組織や学術研究所ではなく、企業にあります。

トップ10％の企業が、利益の80％を独占

The world's top fifty cities have the lion's share of wealth and corporate power (45 percent of big company HQs; 21 percent of world GDP) despite having only 8 percent of the world's population. The top 10 percent of global firms take 80 percent of the total profits. Expect the coming wave to feed into this picture, producing ever-richer and more successful superstars whether regions, business sectors, companies, or research groups.

トップのプレイヤーがますます大きなシェアを獲得しています。世界のトップ50の都市は、富と企業の力の大部分（大手企業の本社の45％、世界GDPの21％）を持っていますが、世界の人口のわずか8％しかありません。グローバル企業の上位10％が総利益の80％を獲得しています。今後の波がこの状況に影響を与え、地域、ビジネスセクター、企業、研究グループなど、さらに豊かで成功したスーパースターを生み出すことが予想されます。

大半の製品が3Dプリンターで作られる

Foods, drugs, home products, indeed almost anything might be 3-D printed, or bio-produced, or made using atomically precise manufacturing close to or at the site of use, governed by sophisticated Als fluidly working with customers using natural language. You simply buy the execution code and let an Al or robot do the task or create the product. Yes, this glosses over a hideous mass of material complexity, and yes, it's a long way off. But squint into the distance, and this scenario is clearly plausible.

食品、薬、家庭用品、実際にはほぼ何もかもが、使用地点の近くやその場所で、洗練されたAIが自然な言語を使って顧客とスムーズに連携しながら、3Dプリント、バイオ生産、または原子レベルの精密製造で作られるかもしれません。あなたは単に実行コードを購入し、AIやロボットにタスクをさせたり、製品を作成させたりします。はい、これは複雑な物質の大量を見逃していますし、実現までには遠い道のりがあります。しかし、遠くを見つめると、このシナリオが十分にあり得ることが明らかです。

アメリカ vs 中国の戦争は既に始まった（チップ戦争）

Xi's fears came to pass on October 7, 2022. America declared war on China, attacking one of those choke points. This didn't involve missiles shooting over the Taiwan Strait. There wasn't a naval blockade of the South China Sea or marines storming the Fujian coastline. It came instead from an unlikely source: the Commerce Department. The shots fired were export controls on advanced semiconductors, the chips that underwrite computing and so artificial intelligence.)

2022年10月7日、習近平の恐れが現実となった。アメリカは中国に宣戦布告し、その要所を攻撃した。これは台湾海峡上でのミサイル攻撃を伴うものではなかった。南シナ海の海上封鎖や福建沿岸への海兵隊の上陸も含まれていなかった。代わりにそれは、予想外の源、商務省からやってきた。発射された弾丸は、コンピューティングを支え、したがって人工知能をも支える先進の半導体への輸出規制であった。

アメリカと中国がAIで組めばWin-Win

両者が勝つための道筋。実現したら双方が更に強くなる。

Currently China and the United States are in a struggle to set technological standards. But a shared approach is a clear win-win; splintered standards make things harder for everyone.

現在、中国とアメリカは技術基準を設定するための闘争にあります。しかし、共通のアプローチは明確な双方の勝利です。分断された基準は、全ての人々にとって事を難しくします。

最後に：問題の対処方法は？

結論：分からない。著者も同じ意見です。しかしテクノロジーの発展は止められません。仮に中国が「癌を治すAI」を発明したら、巨大マネーが流れ込む。AIは国家の競争です。

※PS: ブログは「週１回」のペースで更新します。更新通知は「Twitter」と「メルマガ」でお知らせします🙋‍♂️