d/acc：Một năm nhìn lại và triển vọng

Vào khoảng năm ngoái, tôi đã viết một bài báo về chủ nghĩa lạc quan công nghệ, giải thích niềm đam mê tổng thể của tôi đối với công nghệ và những lợi ích to lớn mà nó có thể mang lại, đồng thời cũng bày tỏ thái độ thận trọng đối với một số vấn đề cụ thể, đặc biệt là xung quanh vấn đề trí tuệ nhân tạo siêu thông minh. Nếu công nghệ này được xây dựng không đúng cách, nó có thể mang lại rủi ro hủy diệt hoặc dẫn đến việc con người mất quyền lực một cách không thể đảo ngược.

Một trong những ý tưởng cốt lõi mà tôi đã đề xuất trong bài viết đó là tăng tốc bảo vệ phi tập trung, dân chủ và khác biệt. Điều này có nghĩa là tăng tốc phát triển công nghệ, nhưng có chọn lọc chú ý vào những công nghệ có thể tăng cường khả năng phòng thủ của chúng ta thay vì khả năng phá hoại, và nỗ lực phân tán quyền lực, thay vì tập trung quyền lực vào tay một số ít tinh hoa, để họ đại diện cho tất cả mọi người quyết định đúng sai. Mô hình phòng thủ nên giống như một Thụy Sĩ dân chủ, cũng như khu vực Zomia gần như vô chính phủ trong lịch sử, chứ không phải mô hình lãnh chúa và lâu đài dưới chế độ phong kiến trung cổ.

Kể từ đó, trong một năm qua, những ý tưởng và khái niệm này đã phát triển và chín muồi một cách đáng kể. Tôi đã chia sẻ những ý tưởng này trên nền tảng "80,000 giờ" và nhận được rất nhiều phản hồi, phần lớn là tích cực, tất nhiên cũng có một số lời chỉ trích.

Công việc này đang tiếp tục tiến triển và đã đạt được những kết quả thực tế: Chúng tôi đã thấy sự tiến bộ trong lĩnh vực vắc xin mã nguồn mở có thể xác minh; nhận thức của mọi người về giá trị của không khí trong nhà lành mạnh ngày càng tăng; "ghi chú cộng đồng" tiếp tục phát huy vai trò tích cực; thị trường dự đoán đã có một năm đột phá như một công cụ thông tin; chứng minh kiến thức không tương tác ngắn gọn không có thông tin (ZK-SNARKs) đã được áp dụng trong nhận dạng danh tính chính phủ và lĩnh vực mạng xã hội (và đảm bảo an toàn cho ví Ethereum thông qua trừu tượng hóa tài khoản); các công cụ hình ảnh mã nguồn mở đã được áp dụng trong y tế và giao diện não-máy (BCI), v.v.

Vào mùa thu năm ngoái, chúng tôi đã tổ chức sự kiện d/acc quan trọng đầu tiên: "Ngày khám phá d/acc" (d/aDDy), diễn ra tại Devcon. Sự kiện đã quy tụ các diễn giả đến từ các lĩnh vực trụ cột khác nhau của d/acc (sinh học, vật lý, mạng, phòng thủ thông tin và công nghệ thần kinh), kéo dài suốt một ngày. Những người đã dành thời gian dài cho những công nghệ này bắt đầu hiểu rõ hơn về công việc của nhau, trong khi những người bên ngoài cũng ngày càng nhận thức được một tầm nhìn lớn hơn: những giá trị thúc đẩy sự phát triển của Ethereum và tiền điện tử có thể mở rộng ra một thế giới rộng lớn hơn.

Ý nghĩa và phạm vi của d/acc

Hãy tưởng tượng một cảnh tượng vào năm 2042. Bạn thấy một tin tức trên báo chí nói rằng thành phố của bạn có thể bùng phát một đại dịch mới. Tin tức kiểu này đã trở nên quen thuộc: mọi người thường phản ứng thái quá với mỗi lần đột biến bệnh tật ở động vật, và trong hầu hết các trường hợp, những đột biến này cuối cùng không gây ra khủng hoảng thực sự. Hai lần đại dịch tiềm tàng trước đây đã được phát hiện sớm và ngăn chặn thành công thông qua việc giám sát nước thải và phân tích nguồn mở trên mạng xã hội. Tuy nhiên, lần này thì khác, thị trường dự đoán cho thấy xác suất xuất hiện ít nhất 10,000 ca mắc lên tới 60%, điều này khiến bạn cảm thấy lo lắng.

Ngay hôm qua, chuỗi gen của virus đã được xác định. Phần mềm của thiết bị kiểm tra không khí trong túi của bạn đã được cập nhật ngay lập tức, cho phép nó phát hiện virus mới (dù là qua một lần kiểm tra hô hấp hay kiểm tra sau khi tiếp xúc trong nhà 15 phút). Đồng thời, các hướng dẫn và mã nguồn mở để tạo ra vắc xin bằng thiết bị có sẵn tại bất kỳ cơ sở y tế hiện đại nào trên toàn cầu dự kiến sẽ được phát hành trong vài tuần tới. Hầu hết mọi người hiện chưa có hành động nào, chủ yếu dựa vào các biện pháp lọc không khí và thông gió được áp dụng rộng rãi để bảo vệ an toàn cho bản thân.

Vì bạn có vấn đề miễn dịch nên hành động cẩn thận hơn: Trợ lý AI cá nhân chạy trên nền tảng mã nguồn mở mà bạn sử dụng, ngoài việc thực hiện các nhiệm vụ thông thường như điều hướng, đề xuất nhà hàng và hoạt động, còn xem xét dữ liệu kiểm tra không khí theo thời gian thực và dữ liệu carbon dioxide, từ đó chỉ đề xuất những địa điểm an toàn nhất cho bạn. Những dữ liệu này được cung cấp bởi hàng ngàn người tham gia và thiết bị, với sự trợ giúp của công nghệ ZK-SNARKs và bảo mật khác biệt, giảm thiểu tối đa nguy cơ dữ liệu bị lộ hoặc bị lạm dụng cho các mục đích khác.

Hai tháng sau, dịch bệnh kỳ diệu tan biến: dường như 60% người dân đã tuân theo các quy định phòng chống dịch cơ bản, tức là đeo khẩu trang khi thiết bị kiểm tra không khí phát ra cảnh báo và cho thấy sự hiện diện của virus, nếu kết quả xét nghiệm cá nhân dương tính thì sẽ tự cách ly tại nhà. Chính biện pháp này đã đủ để giảm tỷ lệ lây lan, vốn đã giảm mạnh nhờ vào hệ thống lọc không khí chủ động, xuống dưới 1. Một kết quả mô phỏng cho thấy có thể nghiêm trọng gấp năm lần so với đại dịch COVID-19 cách đây hai mươi năm, nhưng giờ đây lại không gây ảnh hưởng nghiêm trọng.

Sự kiện d/acc do Devcon tổ chức đã đạt được một kết quả rất tích cực, đó là ý tưởng d/acc đã thành công trong việc tập hợp những người đến từ các lĩnh vực khác nhau và thực sự kích thích sự quan tâm sâu sắc của họ đối với công việc của nhau.

Tổ chức một sự kiện "đa dạng" không phải là điều khó khăn, nhưng để những người có nền tảng và sở thích khác nhau thực sự thiết lập được mối liên hệ chặt chẽ lại là điều không dễ dàng. Tôi vẫn nhớ như in trải nghiệm bị buộc phải xem những vở opera dài dòng trong thời trung học, khi mà tôi cảm thấy những vở opera đó thật tẻ nhạt. Tôi biết rằng mình "nên" đánh giá cao chúng, vì nếu không, tôi sẽ bị coi là một kẻ lười biếng không có văn hóa trong lĩnh vực khoa học máy tính, nhưng tôi vẫn không thể tìm thấy sự đồng điệu sâu sắc hơn với nội dung của opera. Tuy nhiên, không khí của sự kiện d/acc lại hoàn toàn khác: cảm giác mọi người thực sự yêu thích việc tìm hiểu các công việc từ nhiều lĩnh vực khác nhau.

Nếu chúng ta khao khát xây dựng một tương lai tươi sáng hơn so với việc thống trị, làm chậm lại và hủy diệt, thì chắc chắn chúng ta cần tiến hành xây dựng liên minh rộng rãi như vậy. d/acc dường như đã đạt được thành công đáng kể trong lĩnh vực này, chỉ riêng điều này đã đủ để thể hiện giá trị quý giá của ý tưởng này.

Ý tưởng cốt lõi của d/acc rất rõ ràng: phòng ngừa phân quyền, dân chủ và khác biệt. Xây dựng công nghệ có khả năng thúc đẩy sự cân bằng giữa tấn công và phòng thủ nghiêng về phía phòng thủ, và trong quá trình thực hiện không phụ thuộc vào việc trao thêm quyền lực cho các cơ quan trung ương. Giữa hai khía cạnh này tồn tại một mối liên hệ chặt chẽ: bất kỳ cấu trúc chính trị nào phân quyền, dân chủ hoặc tự do, thường phát triển mạnh mẽ khi phòng thủ dễ thực hiện, trong khi khi phòng thủ gặp nhiều khó khăn sẽ phải đối mặt với những thách thức nghiêm trọng - trong những trường hợp đó, kết quả có khả năng xảy ra hơn cả là một giai đoạn hỗn loạn khi mọi người chống lại nhau, cuối cùng đạt được trạng thái cân bằng do kẻ mạnh nhất thống trị.

Một cách để hiểu tầm quan trọng của việc cố gắng thực hiện đồng thời tính phi tập trung, tính phòng ngừa và tính tăng tốc là so sánh nó với những ý tưởng phát sinh từ việc từ bỏ bất kỳ một trong ba khía cạnh này.

Tăng tốc độ phi tập trung, nhưng bỏ qua phần "phòng ngừa khác biệt"

Về bản chất, điều này tương tự như việc trở thành một người theo chủ nghĩa tăng tốc hiệu quả (e/acc), nhưng đồng thời theo đuổi sự phi tập trung. Có rất nhiều người theo cách này, trong đó một số tự gọi mình là d/acc, nhưng họ hữu ích mô tả trọng tâm của mình là "tấn công". Hơn nữa, còn nhiều người khác thể hiện sự nhiệt tình ôn hòa hơn đối với "trí tuệ nhân tạo phi tập trung" và các chủ đề tương tự, nhưng theo quan điểm của tôi, sự quan tâm của họ đối với khía cạnh "phòng thủ" là rõ ràng không đủ.

Theo tôi, cách này có thể giúp tránh nguy cơ một nhóm cụ thể áp đặt chế độ độc tài lên toàn nhân loại, nhưng nó không giải quyết được các vấn đề cấu trúc tiềm ẩn: trong một môi trường thuận lợi cho tấn công, luôn tồn tại rủi ro liên tục về thảm họa xảy ra, hoặc có người sẽ tự định vị mình là người bảo vệ và chiếm giữ vị trí thống trị một cách vĩnh viễn. Về mặt trí tuệ nhân tạo, nó cũng không thể giải quyết một cách thỏa đáng rủi ro về quyền lực của nhân loại bị suy yếu so với trí tuệ nhân tạo.

Phòng thủ khác biệt được tăng tốc, nhưng bỏ qua "phi tập trung và dân chủ"

Để đạt được mục tiêu an toàn mà chấp nhận kiểm soát tập trung, điều này luôn có sức hấp dẫn nhất định đối với một bộ phận người, độc giả chắc chắn đã quen thuộc với nhiều trường hợp như vậy, cũng như những bất lợi mà chúng mang lại. Gần đây, một số người lo ngại rằng kiểm soát tập trung cực đoan có thể là con đường duy nhất để đối phó với công nghệ cực đoan trong tương lai: ví dụ, hãy tưởng tượng một kịch bản giả định, "mọi người đều đeo một 'nhãn tự do' - đây là sản phẩm tiếp theo hạn chế hơn của các thiết bị giám sát đeo trên người hiện nay, giống như một số quốc gia sử dụng làm giải pháp thay thế cho nhà tù là nhãn mắt cá chân... video và âm thanh mã hóa được tải lên liên tục và được máy móc giải mã theo thời gian thực". Tuy nhiên, kiểm soát tập trung có một vấn đề về mức độ. Một hình thức kiểm soát tập trung tương đối nhẹ nhàng thường bị bỏ qua nhưng vẫn có hại, thể hiện ở sự kháng cự của lĩnh vực công nghệ sinh học (ví dụ thực phẩm, vắc-xin) đối với sự giám sát của công chúng, cũng như việc cho phép hành vi kháng cự này không bị thách thức bởi các quy định mã nguồn kín.

Rủi ro của cách tiếp cận này là rõ ràng, đó là trung tâm thường trở thành nguồn gốc của rủi ro. Chúng ta đã chứng kiến điều này trong thời gian đại dịch COVID-19, nghiên cứu chức năng được tài trợ bởi nhiều chính phủ lớn trên thế giới có thể là nguồn gốc của đại dịch, nhận thức tập trung đã dẫn đến việc Tổ chức Y tế Thế giới từ chối công nhận virus COVID-19 lây lan qua không khí trong nhiều năm, trong khi khoảng cách xã hội bắt buộc và các lệnh tiêm chủng bắt buộc đã gây ra phản ứng chính trị có thể kéo dài hàng thập kỷ. Tình huống tương tự rất có thể xảy ra một lần nữa trong bất kỳ tình huống rủi ro nào liên quan đến trí tuệ nhân tạo hoặc các công nghệ rủi ro khác. So với điều đó, cách tiếp cận phi tập trung sẽ hiệu quả hơn trong việc đối phó với rủi ro từ chính trung tâm.

Phòng thủ phi tập trung, nhưng loại trừ tăng tốc

Về bản chất, đây là cố gắng làm chậm tiến bộ công nghệ hoặc thúc đẩy suy thoái kinh tế.

Chiến lược này phải đối mặt với hai thách thức. Thứ nhất, về tổng thể, sự phát triển công nghệ và kinh tế là vô cùng có lợi cho nhân loại, bất kỳ sự trì hoãn nào đều có thể gây ra những chi phí không thể đo lường. Thứ hai, trong một thế giới không phải là độc tài, sự đình trệ là không ổn định: những người hoặc nhóm "gian lận" nhiều nhất, có khả năng tìm ra những cách dường như hợp lý để tiếp tục thúc đẩy phát triển sẽ chiếm ưu thế. Chiến lược giảm tốc có thể phát huy tác dụng ở một số tình huống cụ thể: chẳng hạn, thực phẩm ở Châu Âu là lành mạnh hơn thực phẩm ở Mỹ, đây là một ví dụ; sự thành công trong việc ngăn chặn phổ biến vũ khí hạt nhân cho đến nay cũng giống như vậy. Tuy nhiên, những chiến lược này không thể phát huy tác dụng mãi mãi.

Thông qua d/acc, chúng tôi cam kết đạt được các mục tiêu sau:

• Giữ vững nguyên tắc trong bối cảnh thế giới ngày càng bộ lạc hóa, chứ không chỉ đơn thuần là xây dựng mù quáng nhiều thứ khác nhau - ngược lại, chúng tôi mong muốn xây dựng những điều cụ thể để làm cho thế giới trở nên an toàn và tốt đẹp hơn.
• Nhận thức rằng sự tiến bộ công nghệ theo cấp số nhân có nghĩa là thế giới sẽ trở nên cực kỳ kỳ lạ, và "dấu chân" tổng thể của con người trong vũ trụ chắc chắn sẽ không ngừng gia tăng. Khả năng của chúng ta để bảo vệ các loài động vật, thực vật và con người dễ bị tổn thương khỏi những tổn hại phải được nâng cao liên tục, và con đường duy nhất là tiến về phía trước.
• Xây dựng công nghệ có thể thực sự bảo vệ chúng ta, thay vì dựa trên giả thuyết "những người tốt (hoặc trí tuệ nhân tạo tốt) nắm quyền kiểm soát mọi thứ". Chúng ta đạt được mục tiêu này bằng cách xây dựng những công cụ tự nhiên hiệu quả hơn khi được sử dụng để xây dựng và bảo vệ so với khi được sử dụng để phá hoại.

Một cách suy nghĩ khác về d/acc là quay trở lại khung của phong trào Pirate Party ở châu Âu vào cuối những năm 2000 của thế kỷ 21: trao quyền.

Mục tiêu của chúng tôi là xây dựng một thế giới có thể duy trì tính chủ động của con người, đạt được tự do tiêu cực, tức là tránh sự can thiệp tích cực từ người khác (dù là công dân bình thường, chính phủ hay robot siêu thông minh) vào khả năng định hình số phận của chúng ta, đồng thời đạt được tự do tích cực, tức là đảm bảo rằng chúng ta có kiến thức và tài nguyên để thực hiện khả năng này. Điều này phản ánh