社会学者のゼイネプ・トゥフェクチはかつて、歴史には、自分には善意があると感じているからといって、害を及ぼすことはできないと考えた強大な権力を持つ人々によって引き起こされた害悪の膨大な例が溢れていると述べた。
2017年、ミャンマー国軍による弾圧により、ロヒンギャ難民がミャンマーからバングラデシュへ逃亡を始めたが、その後国連はこの行為を虐殺の意図があると主張した。
彼らはキャンプに到着し始めると、さまざまなサービスに登録する必要がありました。
その 1 つは、政府支援のデジタル生体認証 ID カードに登録することでした。
実際にはオプトアウトするオプションは与えられていませんでした。
2021年、ヒューマン・ライツ・ウォッチは、ロヒンギャ難民に関する不適切に収集した情報を適切な同意なしにミャンマー政府と共有したとして、国際人道支援機関を非難した。
共有される情報には生体認証だけが含まれているわけではありません。
そこには、家族構成、海外の親戚、出身地、家族のアイデンティティに関する情報が含まれていました。
出身地である海外にいる家族。
ミャンマー政府による報復を懸念し、身を隠す人もいた。
迫害されている人々のターゲットを絞った特定は、長い間大量虐殺政権の戦術であったが、現在ではデータがデジタル化されており、より迅速にアクセス、より迅速に規模を拡大し、より容易にアクセスできることを意味している。
これは制度、ガバナンス、道徳など多くの面で失敗でした。
私はキャリアの 15 年間をルワンダからアフガニスタンまで人道支援に費やしてきました。
人道援助とは何ですか?
最も簡単に言うと、災害後の危機的な状況において、最も必要とする人々に緊急ケアを提供することです。
食料、水、住居。
私は、複数の国にまたがる世界規模のプログラムを主導したり、小さな島嶼国全体の災害管理のためのドローン技術革新を設計したりするなど、非常に大規模な人道支援組織で働いてきました。
私は、将来についての会話が初めて行われるような、最も脆弱な状況にあるコミュニティに寄り添ってきました。
そして私は、これと同じ未来に向けて人道支援団体を準備するための世界戦略を設計しました。
そして、私に言えることは、人道主義者の皆さん、私たちはこの10年間、信じられないほどのスピードでデジタル化を受け入れ、テントや給水缶（ちなみに今でも使用しています）から、AI、ビッグデータ、ドローン、生体認証へと移行してきたということです。
これらは、テクノロジー愛好家にとっては関連性があり、論理的で、必要であり、セクシーにさえ見えるかもしれませんが、実際には、適切な同意なしに、脆弱な人々にテストされていないテクノロジーが展開されているのです。
そして、これで私は立ち止まります。
私が立ち止まったのは、今日、地球規模の人類として私たちが直面している苦しみは、一夜にして起こったものではないからです。
それらは私たちが共有した植民地主義の歴史の結果として起こりました。
そして、人道的技術革新は本質的に植民地的であり、多くの場合、技術自体の外部と見なされる人々のグループのために、また彼らの利益のために設計されており、多くの場合、彼ら自身の解決策を提供できるとは正当に認められていません。
そこで私自身も人道主義者として、この質問をします。
世界で善を行おうとする私たちの探求において、これらの行為の結果として人々が将来の危害、将来の負債、将来の不公平に閉じ込められないようにするためにはどうすればよいでしょうか?
それが、私が今、人道的技術革新の倫理を研究している理由であり、これは単なる知的好奇心の追求ではありません。
それは非常に個人的なものであり、多くの場合、私に似た人々、私が生まれたコミュニティの出身であり、歴史的に排除され疎外され、利用可能な選択肢に関して代弁されたり否定されたりする人々であるという信念によって動かされています。私たちの未来のために。
私はここに、これまでの人々の肩の上に立っており、私の後に続くすべての人々に対して、善意だけでは危害を防ぐことはできず、善意だけでは害を引き起こす可能性があることを皆さんに伝える義務を負っています。
次の 21 世紀には何が待っているのかとよく尋ねられます。
それを要約するなら、深い不確実性、滅びゆく地球、不信感、痛み。
そして、非常に不安定な時代には、私たち人間は爆弾を切望します。
そして、デジタル先物はまさに爆弾です。
私たちは、それが私たちを悩ませているすべてのものを和らげてくれるかのように、論理的な必然であるかのように、その可能性に畏敬の念を持ってそれを眺めます。
近年、技術革新に関して新たなタイプのリスクが浮上していることを報告書が指摘し始めています。
その 1 つは、弱い立場にある個人に関して収集されたデータが実際にどのようにして彼らに対して報復として使用され、その人だけでなくその家族やコミュニティに対しても大きなリスクをもたらす可能性があるという点です。
私たちは、ロヒンギャにとってこうしたリスクが現実になるのを目の当たりにしました。
そしてつい最近、2021年8月にアフガニスタンがタリバンの手に落ちた際、米軍とアフガニスタン政府によってアフガニスタン人の生体認証データが収集され、さまざまな主体によって使用されていたことが、現在タリバンの手に渡っていることが明らかになった。タリバン。
ジャーナリストの家宅捜索が行われた。
アフガニスタン人は、オンラインのデジタル履歴を消去するために必死に時間と戦っていました。
そして、エンパワーメントのテクノロジーは、エンパワーメントのテクノロジーになります。
それは、これらのテクノロジーが特定の社会的前提に基づいて設計され、市場に組み込まれ、資本主義的な考慮事項を通してフィルタリングされるためです。
しかし、あるコンテキストで作成され、別のコンテキストにパラシュートで導入されたテクノロジーは、常に失敗します。なぜなら、それは人々がどのように生活を送るかという仮定に基づいているからです。
ここでは、あなたも私も、おそらく映画に行くために指先スキャンを提供することに比較的抵抗がないかもしれませんが、列に並んでいるときに感じるであろう安全レベルを推定することはできません。食糧配給にアクセスするために彼ら自身。
人道主義者はテクノロジーが人類を解放すると想定していますが、そのために起こり得る権力、搾取、危害の問題については十分な考慮がありません。
代わりに、私たちは解決策に急いでいます。これは、根底にある現実を実際に分析することなく、輝かしいソリューションを展開するだけで目の前の問題を解決できると仮定する魔法の思考の一形態です。
これらは一日の終わりの道具であり、牛刀のような道具です。
ある者の手に渡れば、美しい料理が生み出され、またある者の手に渡れば、破滅がもたらされる。
では、過去の不平等をデジタルの未来に反映させないようにするにはどうすればよいでしょうか?
一つだけはっきりさせておきたいのは、私はアンチテクノロジーではないということです。
私はアンチ・ダム・テクノロジーです。
そして私はアンチ・ダム・テクノロジーです。
そして私はアンチ・ダム・テクノロジーです。
そして私はアンチ・ダム・テクノロジーです。
少数の限られた想像力が、多数の過激な再想像力を植民地化すべきではありません。
では、これによって約束される解放が一部の特権的な人々だけでなく、私たち全員に及ぶように、倫理的ベースラインを確実に設計するにはどうすればよいでしょうか?
今後の方向性を示す例がいくつかあります。
私は、西洋の価値観や哲学を参考にするのではなく、先住民のプロトコルや価値観を参考にして AI コードに埋め込む先住民 AI の仕事が大好きです。
また、私はニア テロという先住民共同主導の組織の仕事もとても大好きです。この団体は、先住民コミュニティと協力して、自分たちの幸福と領土を地図に描くために活動しており、他の人々が彼らに代わってそれを行うのではなく、先住民コミュニティと協力しています。
私は 2010 年の Satellite Sentinel プロジェクトから多くのことを学びましたが、これは少し異なる例です。
このプロジェクトは基本的に、残虐行為を予測し、潜在的に防止できるようにするために、リモートセンシング技術衛星を通じて残虐行為の地図を作成するために始まりました。
さて、このプロジェクトはさまざまな理由で数年後に終了しましたが、そのうちの 1 つは実際にアクションを起こすことができなかったことです。
しかし 2 番目、そしておそらく最も重要なことは、チームが倫理規定なしで活動していることに気づいたことです。
そして、倫理ガイドラインが整備されていないため、彼らのやっていることは有益なのか有害なのかについて、非常に広範でオープンな疑問が投げかけられました。
そこで彼らは、害を及ぼす前に活動を縮小することに決めました。
私たちの仕事を導くための法的拘束力のある倫理的枠組みが存在しない中、私は人道的技術革新の情報を提供するためにさまざまな倫理原則に取り組んできました。
今日はそのいくつかをここで紹介したいと思います。
一つ、聞いてください。
これによって、いつ、どのグループの人間が被害を受けるのでしょうか?
このソリューションが実際に利益をもたらすのは誰ですか?
エンドユーザーから適切な同意は得られましたか?
こうした未来に適応するには、何から潔く抜け出す必要があるか考えてみましょう。
そして想像してみてください、もし今この行動を実行したら、将来どんな利益が差し押さえられるでしょうか?
私たちは自分たちが生み出す未来に対して責任があります。
私たちの行動が、私たちが保護し奉仕するつもりである人々に実際に害を及ぼす場合、私たちはその行動の責任と説明責任を免除することはできません。
別の世界は絶対に根本的に可能です。
ありがとう。
ありがとう。
ありがとう。
ありがとう。
ありがとう。
コメント