Tanya Cushman 査読者 査読者の名前 人工知能に関する話をさせてください。
シドニーのブライストリート1番地に建物があります。
多くの政府機関と多忙な人々が住んでいます。
外から見ると、アメリカのSFのようなものです。
すべて輝くガラスと曲線、そしてオレンジ色の彫刻。
内部の 1 階には素晴らしいコーヒーがあり、シドニーで私のお気に入りのエレベーターがあります。
美しいですね。
彼らはほとんど生きているように見えます。
そして、私がリフトに魅了されているのにはさまざまな理由があることがわかりました。
でも、エレベーターは未来が見える場所の一つだから。
21 世紀において、エレベーターは、ユーザーが気付かないうちに AI が最初に触れる場所の 1 つであるため、興味深いものとなっています。
世界中の多くの建物で、エレベーターはプロトタイプの人工知能の一種である一連のアルゴリズムを実行しています。
つまり、ボタンを押すためにエレベーターに向かう前から、あなたがそこにいることが予期されているということです。
すでにすべての車両の配置が変更されており、エネルギーを節約し、交通がどこに行くかを把握するために常に下りています。
実際にボタンを押した時点では、あなたはすでに、人々、環境、建物、構築された世界を理解するシステム全体の一部になっているのです。
AI について話すとき、ロボットの世界について話すことがよくあります。
私たちの想像力は、過去 100 年間の SF のことで占められがちです。
AIと言ったら、ターミネーターだと思うでしょう。
私たちにとって、AI と構築された世界とのつながりをどこかで作ることは、語るのが難しい話です。
しかし現実には、AI はすでに私たちの周りのいたるところに存在しています。
そして多くの場所で。
それは建物やシステムの中にあります。
200 年以上にわたる工業化の経験は、AI が比較的容易にシステム レベルのスケールに到達できることを示唆しています。
結局のところ、その歴史を語ると、テクノロジーを見つけて規模を達成するだけで革命が起こることがわかります。
機械化、自動化、デジタル化の物語はすべて、テクノロジーの役割とその重要性を示しています。
こうしたテクノロジー変革の物語により、規模は、まあ、正常、または予想通りで安定しており、場合によっては予測可能であるように見えます。
しかし同時に、テクノロジーとテクノロジーの変化にも焦点を当てています。
しかし、テクノロジーを拡張し、システムを構築するには、それ以上のものが必要だと私は考えています。
私たちは 2017 年 9 月にオーストラリア国立大学に 3A Institute を設立しました。
一見単純なミッションが 1 つあります。
AI を安全、持続可能、そして責任を持って拡張するためのエンジニアリングの新しい分野を確立すること。
しかし、21 世紀にエンジニアリングの新しい分野を構築するにはどうすればよいでしょうか?
そうですね、私たちは実験教育プログラムを通じてそれを存在させることを教えています。
私たちは、オーストラリア最大の自治鉱山の 1 つであることは言うまでもなく、シェイクスピアの生誕地であるグレート バリア リーフと同じくらい多様な場所でその存在を調査しています。
そして私たちはサイバネティック システムの複雑さに注意を払いながら、その存在を理論化しています。
私たちは、何か新しくて役に立つもの、次世代の批判的思考者と批判的実行者を生み出すための何かを構築することに取り組んでいます。
そして私たちは、AI をより深く理解し、教育、研究、関与を通じて協力的かつ集団的に取り組み、問題の解決と同じくらい質問の枠組みに重点を置くことで、そのすべてを実現しています。
私たちは単一の AI を作っているのではなく、多くの AI の可能性を作っています。
そして、私たちは想像力を脱植民地化し、さまざまな会話や可能性の余地を残すカリキュラムと教育法を構築するために積極的に取り組んでいます。
私たちは、新しい世代の人々を生み出すことができる新しいテクノロジーの構築に取り組んでいます。
作っては作り直しています。
そして、私たちは常に進行中の作業であることを知っています。
しかし、ここで私たちが未来の規模を拡大するという問題にどのように取り組んでいるのかを少し垣間見てみましょう。
私たちは、自分たちの歴史に基づいていることを確認することから始めます。
2018年12月、私はニューサウスウェールズ州クイーンズランド州境にあるベワライナという町に行きました。
この場所は、アボリジニの人々の集会の場所であり、さまざまなグループが集まり、儀式を行い、会合し、一緒に過ごすための場所でした。
そこの国境には、アボリジニの人々やさまざまなグループが集まり、儀式を行い、会合し、一緒に過ごすための集会場がありました。
そこの国境には、さまざまなグループのアボリジニの人々が集まる場所がありました。
そこの国境には、さまざまなグループのアボリジニの人々が集まる場所がありました。
バーウォン川には、オーストラリアで最も古く、最大規模のアボリジニの魚の罠システムの 1 つである一連の魚堰があります。
このシステムは１．
一連の漁網のような形をした 8 キロメートルの石垣で、雌羊は川の下を向いており、水面のさまざまな高さで魚を捕まえることができます。
また、水の動き方を変えるように設計された、高さの異なる壁を備えた魚入れもあり、大きな魚や小さな魚を冷たく澄んだ流水の中に入れておくことができます。
この魚捕りシステムは、アボリジニの魚にとって大きな課題でした。
この魚捕りシステムは、アボリジニの魚にとって大きな課題でした。
この魚捕りシステムは、アボリジニの魚にとって大きな課題でした。
この魚捕りシステムは、川と文化の出会いの場であるこの場所に集まる人々に確実に餌を与えることができる方法でした。
それ自体は岩や罠のことではありません。
それは、技術的知識、文化的知識、生態学的知識を伴う、それらの罠が作り出したシステムに関するものです。
このシステムは古いです。
考古学者の中には4万年も古いと考える人もいます。
最後にその使用が記録されているのは1910年代です。
驚くべき歴史がありました。
驚くべき長寿と信じられないほどの規模を持っています。
そしてそれは私にとってインスピレーションでもあります。
そして、ここ研究所の壁には堰の写真が飾られており、意味のあるものを構築するという約束と挑戦を思い出させ、人々がシステムを構築し、それを維持してきた場所で私たちがシステムを構築していることを思い出させてくれます。世代を超えたシステム。
それは私たちだけの歴史ではありません。
これは、エンジニアリングの新しい分野の確立を目指す私たちの遺産です。
その伝統と私たちの目的意識をさらに発展させるには、将来についての質問、つまり簡単に答えが用意されていない質問をできるようにするための明確なフレームワークが必要だと思います。
ここでポイントとなるのは、質問をすることです。
私たちは、問題解決の従来のアプローチを超えて、質問と質問の構成というより複雑なアプローチに進む必要があると信じています。そうすることで、あらゆる種類の新しい可能性と新しい課題が開かれるからです。
私にとって、現時点では AI へのアプローチを組み立てる 6 つの大きな質問があり、それらを 1 つずつ検討していきます。
1 つ目は、システムの自律性とは何かということです。
2 つ目は、システムが独立して責任を持って規模を拡大できる能力はどのようなものかということです。
自主性、主体性、保証、指標、インターフェース、意図性に関する質問。
最初の質問は簡単なものです。
システムは自律的ですか?
ブライストリートのあのエレベーターを思い出してください。
現実には、いつかそのエレベーターが自律的になるかもしれない、つまり、行動するように指示されなくても行動できるようになるかもしれない。
ビールを飲みに乗れるエレベーターのようなものではありません。
上がったり下がったりします。
それだけです。
しかし、それはそれ自体で行われます。
そういう意味では自律的です。
2 番目の質問は、このシステムには主体性があるのかということです。
このシステムには、特定の条件下で特定の種類の動作を妨げる制御や制限がどこかに存在しますか?
エレベーターの現実、それは全くの事実です。
あなたが乗ったことのあるエレベーターを思い出してください。
赤いキースロットがあります。
救急隊員がキーを差し込んでシステム全体を無効にすることができる車両があります。
しかし、そのシステムが AI 駆動になったらどうなるでしょうか?
鍵はどこにありますか?
物理キーですか？
デジタルキーですか？
誰がそれを使用できるのでしょうか？
それは救急サービスの人たちですか？
そして、それが起こっているかどうかをどうやって知ることができるでしょうか？
エレベーターに乗っていると、そのすべてがどのように表現されるでしょうか?
3 番目の質問は、保証についてどのように考えるかということです。
そのすべての要素についてどのように考えればよいでしょうか?
安全性、セキュリティ、信頼、リスク、責任、管理可能性、説明可能性、倫理、公共政策、法律、規制。
そして、システムが安全で機能していることをどうやって言えばよいでしょうか?
4 番目の質問は、これらの AI 駆動システムとのインターフェースは何になるのかということです。
彼らと話しましょうか？
彼らは私たちに話しかけてくれるでしょうか？
彼らはお互いに話しますか？
そして、私たちの一部にとってこれまでずっと知られてきた一連のテクノロジーが、突然まったく異なる動作をするようになるということは何を意味するのでしょうか?
エレベーター、車、送電網、信号機、家の中にあるもの。
これらの AI 駆動システムに関する 5 番目の質問は、システムがうまく機能していることを示す指標は何でしょうか?
産業革命 200 年を振り返ると、優れたシステムを考える上で最も重要な 2 つの方法は生産性と効率だったことがわかります。
21世紀には、それを少しだけ拡張したいと思うかもしれません。
システムは持続可能ですか?
安全ですか？
責任はあるのでしょうか？
誰が私たちに代わってそれらのことを判断できるのでしょうか？
システムのユーザーは、これらのものがどのように規制、管理、構築されているかを理解したいと考えています。
そして、これらの新しい AI システムについて尋ねる必要がある、おそらく最も重要な最後の質問があります。
その意図は何でしょうか？
このシステムは何をするために設計されていますか? それが良いアイデアだと誰が言ったのですか?
言い換えれば、このシステムが構築している世界とは何でしょうか？
その世界はどのように想像されますか？
そして、私たちが今日住んでいる世界とそれはどのような関係があるのでしょうか？
誰がその会話に参加できるのでしょうか?
誰がそれを明確に表現できるでしょうか？
それはどのように組み立てられ、想像されるのでしょうか？
これらの質問に対する簡単な答えはありません。
代わりに、それらは何が可能で、何を想像し、設計し、構築し、規制し、さらには廃止する必要があるのかを枠組み化しています。
彼らは私たちに正しい方向を示し、エンジニアリングの新しい分野を確立する道を歩むのに役立ちます。
しかし、批判的な質問だけでは十分ではありません。
また、これらすべての質問をまとめて解決する方法も必要です。
私たち研究所にとっても、AI をシステムとしてどう考えるかということに非常に興味があります。
そして、そのシステムの境界をどこにどのように引くのか。
そして、それらは今特に重要なことのように感じられます。
ここでは、1940 年代に始まった研究の影響を受けています。
1944 年、数学者のノーバート ウィーナーは人類学者のグレゴリー ベイトソンとマーガレット ミードとともに、サイバネティクスに関するメイシーズ会議として知られる一連の対話を開催しました。
最終的に、1946 年から 1953 年の間に、サイバネティクスの旗印のもとに 10 回の会議が開催されました。
振り返ってみると、私たちはまだサイバネティクスの黎明期にいます。
私たちはまだサイバネティクスの黎明期にいます。
私たちはまだサイバネティクスの黎明期にいます。
私たちはまだサイバネティクスの初期段階にいます。
Norbert Wiener が定義したように、サイバネティクスは、高度なコンピューティング技術における制御と通信の問題を実際に攻撃できるようにする言語と技術を開発しようとしました。
サイバネティクスは、人間、コンピューター、そしてより広範な生態学的世界の間の関係について考える必要があると説得力を持って主張しました。
それらを総合的なシステムとして考える必要がありました。
メイシーズのカンファレンスの参加者は、心の仕組み、知性と学習、テクノロジーの役割についての考えに関心を持っていました。
そして彼らは、私たちの将来におけるテクノロジーの役割について懸念していました。
悲しいことに、AI に関する話になると、メイシーズのカンファレンスから始まった会話は忘れられることがよくあります。
しかし私にとって、文化、テクノロジー、環境に適応しなければならないシステムという考え方について、ここで再認識すべき非常に重要なことがあります。
当研究所では、そのようなシステム思考が私たちの仕事の核となっています。
過去 3 年間にわたり、素晴らしい人々がこの仕事をするためにこのクレイジーな旅に私と一緒にここに来てくれました。
当社のスタッフには、人類学者、システムおよび環境エンジニア、コンピュータ科学者に加え、核物理学者、受賞歴のあるフォトジャーナリスト、および少なくとも 1 人の政策および標準の専門家が含まれています。
頭がくらくらするようなミックスだよ。
そして、幅広い経験と専門知識は強力です。
紛争や課題も同様です。
多様性があるためには、人々を会話に引き入れ、対立に少しだけ留まる方法を見つけようとする継続的な意欲が必要です。
また、私たちはメイシーズのカンファレンスが世界について話す素晴らしい機会であることも早い段階から考えていました。
また、私たちはメイシーズのカンファレンスが世界について話す素晴らしい機会であることも早い段階から考えていました。
また、私たちはメイシーズのカンファレンスが世界について話す素晴らしい機会であることも早い段階から考えていました。
物事の新しいやり方を構築するには、他の人たちを私たちと同じ旅に連れて行くというコミットメントが必要であるということ。
そこで私たちは非常に迅速に教育プログラムへの扉を開き、2018 年に最初の修士課程を開始しました。
それ以来、私たちは修士課程の学生の 2 つのグループと博士課程の学生の 1 つのグループを擁しています。
私たちの生徒は世界中、さまざまな国から集まっています。
オーストラリア、ニュージーランド、ナイジェリア、ネパール、メキシコ、インド、米国。
そして年齢も23歳から60歳までと幅広いです。
そして年齢も23歳から60歳までと幅広いです。
彼らは、数学と音楽、政策とパフォーマンス、システムと標準、建築と芸術など、さまざまなバックグラウンドを持っています。
彼らは私たち研究所に加わる前は会社を経営していました。
彼らは政府で働き、軍隊に勤務し、高校を教え、芸術団体を管理しました。
彼らは冒険家であり、お互いに何か新しいものを構築することに熱心でした。
そして本当に、これ以上何を求めることができるでしょうか？
なぜなら、私はシリコンバレーで 20 年間を過ごし、孤独な発明家と英雄の旅の物語を知っていますが、それが決して単なる英雄の旅ではないという現実も知っているからです。
それは常に、世界を変えることができる共通の目的意識を持った人々の集まりです。
では、どこから始めますか?
そうですね、自分の立っているところからスタートすると思います。
そして私にとって、それは私が立っている土地の伝統的な所有者を認めたいことを意味します。
グンナワル族とガンブリ族。
ここは彼らの土地だ。
決して譲らず、常に神聖です。
そして私はこの場所の過去と現在の長老たちに敬意を表します。
また、今日私たちが他の多くの場所に集まっていることも認めます。
そして私は、これらすべての場所の伝統的な所有者や長老たちにも敬意を表します。
これらの言葉を言うことができ、その言葉が何を意味し、何を示すのかをじっくり考えることは、私にとってとても意味のあることです。
そして、私たちが少なくとも6万年にわたって継続的に占領されてきた国に住んでいることを忘れないでください。
アボリジニの人々はここに世界を築きました。
彼らは社会システムを構築しました。
彼らはテクノロジーを構築しました。
彼らはこの場所を管理し、長期間にわたって顕著に管理する方法を構築しました。
そして私たち一人一人が国内外でオーストラリア人としてステージに立つたびに、その歴史のおかげで特権と責任を背負っています。
そしてそれは単なる歴史ではありません。
また、信じられないほど豊富なリソース、世界観、知識のセットでもあります。
そしてそれは私たちの骨全体に浸透しているはずです。
そして、それは私たちが常に語る物語であるべきです。
結局のところ、それは異なる考え方をすることです。
さまざまな種類の質問をする。
世界とシステムを総合的に見ること。
そして、それに参加したい他の人を見つけることです。
そして、あなたと一緒にその旅に参加したいと思う人を見つけてください。
なぜなら、私にとって、将来と規模について実際に考える唯一の方法は、常に集団で行うことだからです。
そして、私にとって、人間が一緒にいるという概念は、責任があり、安全で、最終的には持続可能なものについて考える方法の 1 つであるからです。
コメント