d/acc: Bir yıl sonra geri dönüş ve bakış

Geçen yıl civarında, teknolojik iyimserlik hakkında bir makale yazdım ve teknolojiye olan genel heyecanımı ve bunun getirebileceği büyük faydaları açıkladım, aynı zamanda belirli sorunlara karşı temkinli bir tutum da ifade ettim, özellikle süper zeki yapay zeka etrafındaki meseleler hakkında. Bu teknoloji yanlış bir şekilde inşa edilirse, yıkıcı riskler getirebilir veya insanlığın geri dönüşü olmayan bir şekilde güç kaybetmesine neden olabilir.

O makalemde ortaya koyduğum temel kavram, merkeziyetsiz, demokratik ve farklılaştırılmış savunma hızlandırmasıdır. Bu, teknolojik gelişimi hızlandırmak anlamına geliyor, ancak savunma yeteneklerimizi artıran, yok etme yeteneklerimizi değil, seçici bir şekilde bu teknolojilere odaklanmak ve gücü dağıtmaya çalışmak, gücü bir avuç elitin elinde toplamak yerine, onların herkes adına doğru ve yanlışı belirlemesine izin vermemektir. Savunma modeli, ortaçağ feodalizminin lordları ve kaleleri yerine, demokratik İsviçre'ye ve tarihsel yarı anarşist Zomia bölgesine benzemelidir.

O zamandan beri geçen bir yıl içinde, bu düşünceler ve kavramlar önemli bir gelişim ve olgunlaşma gösterdi. Bu düşünceleri "80,000 saat" platformunda paylaştım ve çoğunluğu olumlu olan büyük bir geri dönüş aldım, elbette bazı eleştiriler de oldu.

Bu çalışma kendiliğinden devam ediyor ve somut sonuçlar elde ediliyor: Doğrulanabilir açık kaynak aşı alanında ilerlemeler gördük; insanların sağlıklı iç mekan havasının değerine olan farkındalığı sürekli artıyor; "topluluk notları" olumlu bir rol oynamaya devam ediyor; tahmin piyasası bilgi aracı olarak çığır açan bir yıl geçirdi; sıfır bilgi özlü etkileşimsiz bilgi kanıtları (ZK-SNARKs) hükümet kimlik doğrulama ve sosyal medya alanlarında uygulanıyor (ve hesap soyutlamasıyla Ethereum cüzdanlarının güvenliğini sağlıyor); açık kaynak görüntüleme araçları tıp ve beyin-bilgisayar arayüzü (BCI) alanında kullanılıyor, vb.

Geçen sonbaharda, ilk önemli d/acc etkinliğimizi düzenledik: "d/acc Keşif Günü" (d/aDDy), Devcon'da yapıldı. Etkinlik, d/acc'nin çeşitli sütun alanlarından (biyoloji, fizik, ağ, bilgi savunması ve sinir teknolojisi) konuşmacıları bir araya getirdi ve tam bir gün sürdü. Bu teknolojilere uzun süre bağlı kalan insanlar, birbirlerinin çalışmalarını daha çok tanımaya başladı ve dışarıdan gelenler de Ethereum ve kripto para gelişimini teşvik eden aynı değerlerin daha geniş bir dünyaya yayılabileceğinin farkına varmaya başladı.

d/acc'nin içeriği ve kapsamı

2042 yılındaki bir sahneyi hayal edin. Medya raporlarında, yaşadığınız şehirde yeni bir pandeminin patlak verebileceğine dair bir haber gördünüz. Bu tür haberler artık sıradan hale geldi: İnsanlar genellikle her bir hayvan hastalığındaki mutasyona aşırı tepki verirken, çoğu durumda bu mutasyonlar nihayetinde gerçek bir krizi tetiklemez. Önceki iki potansiyel pandeminin her ikisi de atık su izleme ve sosyal medya açık kaynak analizleri sayesinde erken aşamada tespit edilip başarılı bir şekilde kontrol altına alınmıştı. Ancak bu sefer durum farklı; tahmin piyasaları, en az 10.000 vaka olasılığının %60'a kadar çıktığını gösteriyor ve bu seni endişelendiriyor.

Dün, virüsün genetik dizilimi belirlenmişti. Cebinizdeki hava test cihazı yazılımı hemen güncellendi, böylece yeni virüsü (ister bir nefes testi ile, isterse kapalı alanda 15 dakika maruz kalma sonrasında) tespit edebiliyor. Aynı zamanda, dünya genelindeki herhangi bir modern sağlık tesisinde elde edilebilecek cihazlar kullanılarak aşı için açık kaynak talimatları ve kodları oluşturulması bekleniyor ve bunun birkaç hafta içinde yayınlanması planlanıyor. Çoğu insan şu anda hiçbir eylemde bulunmadı ve kendilerini korumak için yaygın olarak benimsenen hava filtreleme ve havalandırma önlemlerine güveniyor.

Bağışıklık sorunlarınız nedeniyle daha dikkatli hareket ediyorsunuz: Kullandığınız açık kaynaklı yerel çalışan kişisel asistan yapay zeka, navigasyon, restoran ve etkinlik önerileri gibi rutin görevlerin yanı sıra, gerçek zamanlı hava testi verilerini ve karbondioksit verilerini de dikkate alarak, yalnızca en güvenli mekanları önermektedir. Bu veriler, binlerce katılımcı ve cihaz tarafından sağlanmakta olup, ZK-SNARKs ve diferansiyel gizlilik teknolojileri sayesinde verilerin sızdırılma veya başka amaçlar için kötüye kullanılma riskini en aza indirmektedir.

İki ay sonra, pandemi mucizevi bir şekilde dağılmıştı: Sanki insanların %60'ı temel koruma protokollerine uyuyordu; yani hava test cihazı alarm verdiğinde ve virüs varlığını gösterdiğinde maske takıyorlar, eğer kişisel test sonucu pozitif çıkarsa evde izole oluyorlardı. İşte bu önlem, pasif güçlü hava filtrelemesi nedeniyle zaten büyük ölçüde düşen bulaşma oranını 1'in altına daha da düşürmeye yetti. Yirmi yıl önceki COVID-19 pandemisinden beş kat daha ciddi olabileceği simüle edilen bir hastalık, bugün ise ciddi bir etki yaratmamış durumda.

Devcon'un düzenlediği d/acc etkinliği son derece olumlu bir sonuç elde etti, yani d/acc fikri farklı alanlardan gelen insanları bir araya getirmeyi başardı ve birbirlerinin çalışmalarına karşı güçlü bir ilgi uyandırdı.

"Çeşitlilik" içeren bir etkinlik düzenlemek zor değil, ancak farklı geçmişlere ve ilgi alanlarına sahip kişilerin gerçekten yakın bağlantılar kurmasını sağlamak oldukça zor. Ortaokul ve lise dönemlerimde uzun operaları izlemeye zorlandığım deneyimim hâlâ aklımda, o zamanlar bu operaların benim için sıkıcı olduğunu düşündüm. Onları "takdir etmem gerektiğini" biliyordum, çünkü aksi takdirde kültürsüz bir bilgisayar bilimi tembeli olarak görülecektim, ancak opera içerikleriyle daha derin bir düzeyde bir bağ kuramadım. Ancak d/acc günü etkinliğinin atmosferi tamamen farklıydı: İnsanların farklı alanlardaki işleri gerçekten öğrenmekten keyif aldığını hissettim.

Eğer egemenlik, yavaşlama ve yıkımdan daha parlak bir gelecek inşa etmek istiyorsak, bu tür geniş kapsamlı bir ittifak inşasına ihtiyaç duyuyoruz. d/acc bu konuda önemli başarılar elde etmiş gibi görünüyor; bu tek başına bu fikrin değerini göstermeye yeter.

d/acc'nin temel düşüncesi sade ve açıktır: merkeziyetsiz, demokratik ve farklılaştırılmış savunmacı hızlandırma. Saldırı ve savunma dengesi lehine savunmayı teşvik eden teknolojiler inşa etmek ve uygulama sürecinde daha fazla gücü merkezi otoritelere devretmemek. Bu iki yön arasında içsel bir yakın ilişki vardır: Herhangi bir merkeziyetsiz, demokratik veya özgür siyasi yapı, savunmanın kolayca uygulanabilir olduğu durumlarda genellikle gelişme gösterirken, savunmanın ciddi zorluklarla karşılaştığı durumlarda ciddi zorluklarla karşılaşır - bu tür durumlarda, daha olası sonuç, herkesin birbirine karşı olduğu bir kaos dönemidir ve sonunda en güçlülerin hüküm sürdüğü bir denge durumu oluşur.

Merkeziyetsizliği, savunuculuğu ve hızlanmayı aynı anda gerçekleştirmenin önemini anlamanın bir yolu, bunları bu üç unsurdan herhangi birinin terk edilmesiyle ortaya çıkan kavramlarla karşılaştırmaktır.

Merkeziyetsizleşme hızlanıyor, ancak "farklılaşmış savunma" kısmı göz ardı ediliyor

Esasında, bu etkili bir hızlandırmacı (e/acc) olma ile özdeş bir durumdur, ancak aynı zamanda merkeziyetsizliği takip etmektedir. Bu yolu izleyen birçok insan var, bazıları kendilerini d/acc olarak adlandırıyor, ancak faydalı bir şekilde kendilerini "saldırı" olarak tanımlıyorlar. Ayrıca, "merkeziyetsiz yapay zeka" ve benzeri konulara daha ılımlı bir ilgi gösteren birçok insan daha var, ancak bana göre, "savunma" boyutuna olan dikkatleri belirgin şekilde yetersiz.

Bana göre, bu yöntem belirli grupların küresel insanlığa dikta kurma riskini azaltabilir, ancak potansiyel yapısal sorunları çözemez: saldırganlığa uygun bir ortamda felaketin sürekli bir risk olarak varlığı, ya da birinin kendini koruyucu olarak konumlandırması ve kalıcı olarak egemenlik pozisyonunu alması durumu her zaman mevcuttur. Yapay zeka açısından, bu da insanlığın yapay zekaya karşı zayıflayan gücünü düzgün bir şekilde ele alamaz.

Farklılaşmış savunma hızlandırılmış, ancak "merkezsizleşme ve demokrasi" göz ardı edilmiştir

Güvenlik hedeflerine ulaşmak için merkezi kontrolü kabul etmek, bazı insanlar için her zaman belirli bir çekiciliğe sahip olmuştur; okuyucunun bu tür pek çok örneği ve bunların getirdiği dezavantajları bildiğinden şüphe yoktur. Son zamanlarda, bazıları aşırı merkezi kontrolün gelecekteki aşırı teknolojilere karşı tek yanıt olabileceğinden endişe ediyor: örneğin, "herkesin bir 'özgür etiket' takması gerektiğini varsayalım - bu, günümüzde daha sınırlı olan giyilebilir gözetim cihazlarının bir sonraki ürünü olup, bazı ülkelerin hapishane alternatifleri olarak kullandığı ayak bileği etiketlerine benziyor... şifreli video ve ses sürekli olarak yükleniyor ve makineler tarafından gerçek zamanlı olarak yorumlanıyor". Ancak, merkezi kontrolün bir derecelendirme problemi vardır. Genellikle göz ardı edilen ama yine de zararlı olan daha ılımlı bir merkezi kontrol biçimi, biyoteknoloji alanında (örneğin gıda, aşı) kamu denetimine karşı direnişte ve bu direnişin sorgulanmadan kalmasına izin veren kapalı kaynak standartlarında kendini göstermektedir.

Bu yöntemin riskleri açıktır; merkezi yapı genellikle riskin kaynağı haline gelebilir. Bunu COVID-19 pandemisi sırasında gözlemlemiştik; birçok büyük dünya hükümeti tarafından finanse edilen işlevsel kazanım araştırmaları, pandeminin kaynağı olabilir. Merkezileşmiş bilgi anlayışı, Dünya Sağlık Örgütü'nün yıllarca COVID virüsünün hava yoluyla yayıldığını kabul etmesini reddetmesine neden oldu ve zorunlu sosyal mesafe ile aşı zorunluluğu, on yıllarca sürebilecek siyasi geri tepkilere yol açtı. Benzer durumun, yapay zeka veya diğer riskli teknolojilerle ilgili herhangi bir risk senaryosunda tekrar yaşanması oldukça muhtemeldir. Buna karşılık, merkezi olmayan yaklaşımlar, merkezden kaynaklanan risklerle daha etkili bir şekilde başa çıkacaktır.

Merkeziyetsiz savunma, ancak hızlandırmayı dışlama

Temelinde, bu teknolojik ilerlemeyi yavaşlatma veya ekonomik durgunluğu teşvik etme çabasıdır.

Bu strateji iki kat zorlukla karşı karşıyadır. Öncelikle, genel olarak, teknoloji ve ekonomik büyüme insanlık için son derece faydalıdır ve bunlardaki herhangi bir gecikme, hesaplanması zor olan maliyetler getirecektir. İkincisi, otoriter olmayan bir dünyada duraksama istikrarsızdır: "kandıran" en çok sayıda, görünüşte mantıklı yollar bulabilen bireyler veya gruplar ilerlemeyi sürdürmek için avantaj elde edecektir. Yavaşlama stratejileri belirli durumlarda bir ölçüde etkili olabilir: örneğin, Avrupa'daki gıdalar Amerika'daki gıdalardan daha sağlıklıdır, bu bir örnektir; nükleer silahların yayılmaması konusundaki başarılar da aynı şekilde. Ancak, bu stratejilerin sonsuza dek işe yaraması mümkün değildir.

d/acc aracılığıyla aşağıdaki hedefleri gerçekleştirmeye kararlıyız:

• Günümüz dünyasında giderek kabileleşen eğilimlere karşı prensipleri korumak, sadece kör bir şekilde çeşitli şeyler inşa etmek yerine - aksine, belirli şeyler inşa etmeyi umuyoruz ve böylece dünyayı daha güvenli ve güzel hale getiriyoruz.
• Üstel teknoloji ilerlemelerinin, dünyanın son derece tuhaf hale geleceğini ve insanlığın evrendeki toplam "izinin" sürekli olarak artacağı anlamına geldiğini kabul etmek. Zayıf hayvanları, bitkileri ve insanları koruma yeteneğimizin sürekli olarak artması gerekiyor ve tek çıkış yolu cesurca ilerlemektir.
• Gerçekten teknolojimizi koruyabilen bir yapı inşa edin, "iyi insanlar (veya iyi yapay zeka) her şeyi kontrol eder" varsayımına dayanmadan. Bu hedefe, inşa etmek ve korumak için doğal olarak yıkımdan daha etkili olan araçlar inşa ederek ulaşacağız.

d/acc'ye farklı bir bakış açısı düşünmek, 21. yüzyılın 2000'li yıllarının sonunda Avrupa'daki Korsan Partisi hareketinin bir çerçevesine geri dönmektir: güçlendirme.

Amacımız, insan iradesini koruyabilen bir dünya inşa etmek; bu dünya, başkalarının (ister sıradan vatandaşlar, ister devlet, isterse süper zeki robotlar olsun) kendi kaderimizi şekillendirme yeteneğimize aktif müdahalede bulunmalarını önleyerek olumsuz özgürlüğü sağlarken, aynı zamanda bu yeteneği gerçekleştirmek için bilgi ve kaynaklara sahip olduğumuzdan emin olarak olumlu özgürlüğü de sağlamaktır. Bu, şunu yansıtıyor: