Trần Ngọc

‘Đừng bao giờ mời gọi một sức mạnh mà bạn không thể kiểm soát’: Yuval Noah Harari nói về cách AI có thể đe dọa nền dân chủ và chia rẽ thế giới

Yuval Noah Harari qua ống kính của nhiếp ảnh gia David Vintiner/The Guardian

Hãy quên đi những hình ảnh về robot cầm súng chạy loạn trên đường phố của Hollywood
– thực tế của trí tuệ nhân tạo nguy hiểm hơn nhiều.

Trong suốt chiều dài lịch sử, nhiều truyền thuyết tin rằng một số khiếm khuyết có tai hại chết người, vốn nằm trong bản chất con người, đã cám dỗ chúng ta theo đuổi những sức mạnh mà chúng ta không biết cách đối phó với chúng. Thần thoại Hy Lạp về Phaethon kể về một cậu bé phát hiện ra mình là con trai của thần mặt trời Helios. Vì muốn chứng minh nguồn gốc thần thánh của mình, Phaethon cầu xin được đặc quyền lái cỗ xe kéo mặt trời di chuyển. Helios cảnh báo Phaethon rằng không người nào có thể điều khiển những con ngựa trên trời kéo cỗ xe mặt trời được. Nhưng Phaethon vẫn nhất định đòi, cho đến khi thần mặt trời phải nhượng bộ. Sau khi kiêu hãnh bay lên bầu trời, Phaethon thực sự đã mất khả năng kiểm soát cỗ xe. Mặt trời đi lệch hướng quỹ đạo, thiêu rụi tất cả cây cỏ, giết chết nhiều sinh vật và đe dọa thiêu rụi cả Trái Đất. Thần Zeus đã can thiệp và giáng cho Phaethon một tia sét. Con người kiêu ngạo từ bầu trời rơi xuống như một ngôi sao băng, bản thân anh ta bốc cháy. Các vị thần tái lập lại quyền kiểm soát bầu trời và cứu thế giới.

Tượng Cỗ Xe Mặt Trời (cuối thời đại đồ đồng, khoảng tk. 14-15 trước Công nguyên)
được phát hiện ở Trundholm năm 1902 và được lưu giữ trong Viện Bảo Tàng Quốc Gia Đan Mạch

Hai ngàn năm sau, khi Cách mạng Công nghiệp đang có những bước tiến đầu tiên và máy móc bắt đầu thay thế con người trong nhiều nhiệm vụ, Johann Wolfgang von Goethe đã xuất bản một câu chuyện cảnh báo tương tự có tựa đề Người Học Nghề Phù Thủy (The Sorcerer’s Apprentice). Bài thơ của Goethe (sau này được phổ biến thành phim hoạt hình của Walt Disney với sự tham gia của Mickey Mouse) kể về một mụ phù thủy già giao cho một cậu đang học nghề phụ trách xưởng của mình và giao cho anh chàng một số công việc để làm khi bà đi vắng, như lấy nước từ sông chẳng hạn. Anh tập sự này quyết định làm sao cho mọi thứ được dễ dàng hơn, và sử dụng một trong những câu thần chú của bà phù thủy, phù phép một cây chổi để sai khiến nó lấy nước cho anh ta. Nhưng rồi anh không biết phải làm thế nào để ngăn cây chổi, khi nó không ngừng lấy càng lúc càng nhiều nước, đe dọa làm ngập xưởng. Trong cơn hoảng loạn, anh học việc lấy rìu chặt đôi cây chổi bị phù phép, nhưng rồi chỉ thấy mỗi nửa trở thành một cây chổi khác. Bây giờ hai cây chổi bị phù phép đang làm nước ngập cả xưởng. Khi bà phù thủy già trở về, anh học việc khẩn cầu được giúp đỡ: “Những hồn ma mà con đã triệu tới, thì giờ đây con không sao thoát khỏi chúng.” Mụ phù thủy lập tức hóa giải bùa chú và ngăn trận lụt. Bài học rõ ràng cho người học việc – và cho nhân loại – là: đừng bao giờ mời gọi những sức mạnh mà bạn không thể nào kiểm soát.

Những câu chuyện ngụ ngôn cảnh báo về anh chàng học nghề và chuyện Phaethon cho chúng ta biết điều gì trong thế kỷ 21? Rõ ràng là con người chúng ta đã từ chối lắng nghe những lời cảnh báo của họ. Chúng ta đã làm Trái Đất mất cân bằng về khí hậu, đã triệu hồi hàng tỉ cây chổi ma thuật, máy bay không người lái, chatbot và các linh hồn thuật toán khác có thể thoát khỏi tầm kiểm soát của chúng ta và gây ra một loạt hậu quả. Vậy thì chúng ta nên làm gì? Những câu chuyện ngụ ngôn không đưa ra câu trả lời nào, ngoài việc chờ đợi một vị thần hoặc phù thủy nào đó cứu chúng ta.

Huyền thoại Phaethon và bài thơ của Goethe không đưa ra lời khuyên hữu ích vì chúng hiểu sai cách con người đạt được quyền lực. Trong cả hai câu chuyện ngụ ngôn, một con người đơn lẻ có được quyền lực rộng lớn, nhưng sau đó lại bị tha hóa bởi sự kiêu ngạo và lòng tham. Kết luận của nó là tâm lý cá nhân khiếm khuyết của chúng ta đã khiến chúng ta lạm dụng quyền lực. Điều mà sự phân tích thô thiển này bỏ lỡ là quyền lực của con người không bao giờ là kết quả của sáng kiến ​​cá nhân. Quyền lực luôn bắt nguồn từ sự hợp tác giữa những đám đông. Theo đó, không phải tâm lý cá nhân khiến chúng ta lạm dụng quyền lực. Nghĩ cho cùng, bên cạnh lòng tham, sự kiêu ngạo và tàn ác, con người cũng có khả năng yêu thương, trắc ẩn, khiêm nhường và vui vẻ. Đúng vậy, trong số những thành viên tồi tệ nhất của loài người chúng ta, lòng tham và sự tàn ác thống trị khiến những kẻ xấu lạm dụng quyền lực. Nhưng tại sao xã hội loài người lại chọn cách giao phó quyền lực cho những thành viên tồi tệ nhất của họ? Ví dụ, hầu hết người Đức vào năm 1933 không phải là những kẻ tâm thần. Vậy tại sao họ lại chọn đi theo Hitler?

Xu hướng mời gọi quyền lực mà chúng ta không thể kiểm soát không bắt nguồn từ tâm lý cá nhân mà từ cách thức độc đáo mà loài người chúng ta hợp tác với nhau theo từng nhóm đông người. Loài người có được sức mạnh to lớn bằng cách xây dựng các mạng lưới hợp tác lớn, nhưng cách xây dựng mạng lưới của chúng ta khiến chúng ta có khuynh hướng sử dụng sức mạnh một cách thiếu khôn ngoan. Hầu hết các mạng lưới của chúng ta được xây dựng và duy trì bằng cách truyền bá những câu chuyện hư cấu, tưởng tượng và ảo tưởng đại chúng – từ những cây chổi thần kỳ đến các hệ thống tài chính. Vậy thì, vấn đề của chúng ta là vấn đề mạng lưới. Cụ thể, đó là vấn đề thông tin. Bởi vì thông tin là chất keo gắn kết các mạng lưới lại với nhau, và khi mọi người được cung cấp thông tin xấu, họ có khả năng đưa ra những quyết định tồi tệ, bất kể họ có khôn ngoan và tử tế đến đâu đi nữa.

Trong những thế hệ gần đây, nhân loại đã trải qua sự gia tăng lớn nhất từ ​​trước đến nay về cả số lượng lẫn tốc độ sản xuất thông tin. Mỗi chiếc điện thoại thông minh chứa nhiều thông tin hơn cả Thư viện Alexandria cổ đại và cho phép chủ sở hữu của nó kết nối ngay lập tức với hàng tỉ người khác trên khắp thế giới. Tuy nhiên, khi mà tất cả thông tin này luân lưu với tốc độ chóng mặt, nhân loại đang tiến gần hơn bao giờ hết đến việc tự hủy diệt chính mình.

Bất chấp – hoặc có lẽ là vì – kho dữ liệu của chúng ta, chúng ta vẫn tiếp tục thải chất khí tạo hiệu ứng nhà kính vào khí quyển, gây ô nhiễm sông ngòi và đại dương, đốn cây phá rừng, phá hủy toàn bộ môi trường sống, đẩy vô số loài đến bờ vực tuyệt chủng và gây nguy hiểm cho nền tảng sinh thái của chính loài người chúng ta. Chúng ta cũng đang sản xuất ngày càng nhiều vũ khí hủy diệt hàng loạt mạnh hơn, từ bom nhiệt hạch cho đến vi-rút tận thế. Các nhà lãnh đạo của chúng ta không thiếu thông tin về những mối nguy hiểm này, nhưng thay vì hợp tác để tìm ra giải pháp, họ lại tiến gần hơn đến một cuộc chiến tranh toàn cầu.

Liệu việc có nhiều thông tin hơn có khiến mọi thứ tốt hơn, hay nó thành tệ hơn? Chúng ta sẽ sớm tìm ra câu trả lời. Nhiều tập đoàn và chính phủ đang chạy đua để phát triển công nghệ thông tin mạnh mẽ nhất trong lịch sử – đó là AI. Một số doanh nhân hàng đầu, chẳng hạn như nhà đầu tư người Mỹ Marc Andreessen, tin rằng AI cuối cùng sẽ giải quyết được mọi vấn đề của nhân loại. Vào ngày 6 tháng 6 năm 2023, Andreessen đã xuất bản một tiểu luận có tựa đề Tại Sao AI Sẽ Cứu Được Thế Giới, được lồng ghép bằng những tuyên bố táo bạo như: “Tôi ở đây để mang đến tin tốt: AI sẽ không hủy diệt thế giới, và trên thực tế nó có thể cứu thế giới”. Ông kết luận: “Sự phát triển và phổ biến của AI không phải là rủi ro mà chúng ta nên sợ, mà là nghĩa vụ đạo đức mà chúng ta phải có đối với bản thân, với con cái và với tương lai của chúng ta”.

Những người khác thì hoài nghi hơn. Không chỉ các nhà triết học và nhà khoa học xã hội mà còn nhiều chuyên gia và doanh nhân AI hàng đầu như Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk và Mustafa Suleyman đã cảnh báo rằng AI có thể hủy diệt nền văn minh của chúng ta. Trong một cuộc khảo sát năm 2023 trên 2.778 nhà nghiên cứu về AI, hơn một phần ba cho rằng có ít nhất 10% khả năng AI tiên tiến sẽ dẫn đến những hậu quả tồi tệ như sự tuyệt chủng của loài người. Năm ngoái, gần 30 chính phủ – bao gồm cả Trung Quốc, Hoa Kỳ và Vương quốc Anh – đã ký tuyên ngôn Bletchley về AI, trong đó thừa nhận rằng “nó có khả năng gây ra tác hại nghiêm trọng, thậm chí là thảm khốc, dù là cố ý hay vô ý, bắt nguồn từ những khả năng quan trọng nhất của các mô hình AI này”. Bằng cách sử dụng các thuật ngữ về ngày tận thế như vậy, các chuyên gia và chính phủ không muốn gợi lên hình ảnh theo kiểu phim Hollywood về những con robot nổi loạn chạy trên đường phố và bắn giết người. Một kịch bản như vậy có lẽ không xảy ra, mà nó chỉ làm mọi người mất sự chú tâm tới những nguy hiểm thực sự.

AI là mối đe dọa chưa từng có đối với loài người vì đây là công nghệ đầu tiên trong lịch sử có thể tự đưa ra quyết định và tạo ra những ý tưởng mới. Tất cả các phát minh trước đây của con người đều chịu thần phục dưới quyền của con người, vì bất kể công cụ mới có mạnh đến đâu, quyết định về việc sử dụng nó vẫn nằm trong tay chúng ta. Bản thân bom hạt nhân không quyết định giết ai, chúng cũng không thể tự cải thiện hoặc thậm chí phát minh ra những quả bom còn mạnh hơn. Ngược lại, máy bay không người lái tự động có thể tự quyết định giết ai, và AI có thể tạo ra các thiết kế bom mới lạ, các chiến lược quân sự chưa từng có và những lớp AI tốt hơn. AI không phải là một công cụ – mà là một tác nhân. Mối đe dọa lớn nhất của AI là chúng ta đang mời mọc vô số tác nhân mới mạnh mẽ có khả năng thông minh và giàu trí tưởng tượng hơn chúng ta đến Trái Đất, mà chúng ta không hiểu hoặc kiểm soát hoàn toàn chúng.

Trong vài thập kỷ tới, có khả năng là AI sẽ đạt được khả năng tạo ra các dạng sống mới

Theo truyền thống, thuật ngữ "AI" được sử dụng như một từ viết tắt của trí tuệ nhân tạo. Nhưng có lẽ tốt hơn là ta nên coi nó như một từ viết tắt của ‘trí thông minh ngoài hành tinh’. Khi AI phát triển, nó trở nên ít nhân tạo hơn (theo nghĩa phụ thuộc vào thiết kế của con người) và trở nên lạ lẫm hơn với con người. Nhiều người cố gắng đo lường và thậm chí định nghĩa AI bằng cách sử dụng thước đo “trí thông minh theo mức độ con người” và có một cuộc tranh luận sôi nổi về thời điểm chúng ta có thể mong đợi AI đạt được điều đó. Thước đo này gây hiểu lầm sâu sắc. Nó giống như việc xác định và đánh giá máy bay thông qua thước đo "chuyến bay theo mức độ chim bay". AI không tiến triển theo hướng trí thông minh ở mức độ con người suy nghĩ. Nó đang phát triển một loại trí thông minh của người ngoài hành tinh.

Ngay cả ở thời điểm hiện tại, trong giai đoạn phôi thai của cuộc cách mạng AI, máy tính đã đưa ra quyết định về chúng ta – có nên cho chúng ta vay thế chấp, thuê chúng ta làm việc hay đưa chúng ta vào tù không. Trong khi đó, loại AI tạo sinh như GPT-4 đã sáng tạo ra những bài thơ, câu chuyện và hình ảnh mới. Xu hướng này sẽ chỉ tăng lên và tăng tốc, khiến việc hiểu cuộc sống của chính chúng ta trở nên khó khăn hơn. Chúng ta có thể tin tưởng vào các thuật toán máy tính để đưa ra quyết định sáng suốt và tạo ra một thế giới tốt đẹp hơn không? Đó là một canh bạc lớn hơn nhiều so với việc tin tưởng vào một cây chổi thần kỳ để lấy nước. Và chúng ta không chỉ đánh cược vào mạng sống của con người. AI đã có khả năng tạo ra nghệ thuật và tự mình thực hiện các khám phá khoa học. Trong vài thập kỷ tới, thậm chí nó còn có thể đạt được khả năng tạo ra các dạng sống mới, bằng cách viết mã di truyền hoặc bằng cách phát minh ra mã cho các vật vô cơ khiến các thực thể vô cơ này thành sống động. Do đó, AI có thể thay đổi tiến trình không chỉ của lịch sử loài người mà còn của quá trình tiến hóa của tất cả các dạng sống nữa.

Mustafa Suleyman là chuyên gia hàng đầu thế giới về chủ đề AI. Ông là đồng sáng lập viên của DeepMind, một trong những doanh nghiệp AI quan trọng nhất thế giới, chịu trách nhiệm phát triển chương trình AlphaGo, cùng nhiều thành tựu khác. AlphaGo được thiết kế để chơi Cờ Vây, một môn cờ mang tính chiến lược cao, trong đó người chơi cố gắng đánh bại đối thủ bằng cách bao vây và chiếm giữ lãnh thổ. Được phát minh ở Trung Quốc thời cổ đại, môn đánh cờ này phức tạp hơn nhiều so với cờ vua. Do đó, ngay cả sau khi máy tính đánh bại các nhà vô địch cờ vua thế giới, các chuyên gia vẫn tin rằng máy tính sẽ không bao giờ đánh bại được loài người trong cờ vây.

Đó là lý do tại sao cả các chuyên gia cờ vây và chuyên gia máy tính vào tháng 3 năm 2016 đều sửng sốt khi AlphaGo đánh bại nhà vô địch cờ vây người Hàn Quốc Lee Sedol. Trong cuốn sách The Coming Wave xuất bản năm 2023, Suleyman mô tả một trong những khoảnh khắc quan trọng nhất trong trận đấu của họ – khoảnh khắc định nghĩa lại AI và được nhiều giới học thuật và chính phủ công nhận là bước ngoặt quan trọng trong lịch sử. Sự kiện này xảy ra trong ván đấu thứ hai của trận đấu, vào ngày 10 tháng 3 năm 2016.

Vô địch thế giới môn Cờ Vây Lee Sedol (ngồi bên phải) xem lại những nước đi cuối cùng
sau khi đầu hàng ván đầu tiên của mình trước Google DeepMind vào ngày 09/03/2016,
một ngày trước khi thua ván cờ thứ nhì. Hình: Google DeepMind chụp trên YouTube

“Thế rồi… đến nước đi thứ 37”, ông Suleyman viết. “Nước cờ này chẳng cho ta thấy nó có ý nghĩa gì cả. Rõ ràng AlphaGo đã phá hư nó, đã mù quáng đi theo một chiến lược rõ ràng là sẽ dẫn đến thua cuộc mà không một kỳ thủ chuyên nghiệp nào theo đuổi. Các bình luận viên trực tiếp của trận đấu, cả hai đều là những kỳ thủ chuyên nghiệp có thứ hạng cao nhất, cho biết đó là một ‘nước đi rất kỳ lạ’ và nghĩ rằng đó là ‘một sai lầm’. Nó bất thường đến mức Sedol đã mất 15 phút để phản ứng và thậm chí còn rời bàn cờ để đi quanh một lúc. Khi chúng tôi theo dõi từ phòng quan sát của mình, sự căng thẳng thật không tưởng. Tuy nhiên, khi cuộc cờ gần tàn, nước đi ‘sai lầm’ đó đã chứng tỏ đó là bước then chốt. AlphaGo lại giành chiến thắng. Chiến lược cờ vây đang được viết lại trước mắt chúng tôi. AI của chúng tôi đã khám phá ra những ý tưởng mà những kỳ thủ xuất sắc nhất trong hàng nghìn năm chưa từng nghĩ đến.”

Nước cờ thứ 37 là biểu tượng của cuộc cách mạng AI vì hai lý do. Thứ nhất, nó đã chứng minh được bản chất khác lạ của AI trong con mắt của chúng ta. Ở Đông Á, Cờ Vây được coi là nhiều hơn một trò chơi: đó là một truyền thống văn hóa quý giá. Trong hơn 2.500 năm, hàng chục triệu người đã chơi Cờ Vây và toàn bộ các trường phái tư tưởng đã phát triển xung quanh trò chơi, ủng hộ các chiến lược và triết lý khác nhau. Tuy nhiên, trong suốt hàng thiên niên kỷ đó, tâm trí con người chỉ khám phá một số khu vực nhất định trong bối cảnh Cờ Vây. Các khu vực khác vẫn chưa được khai thác, vì tâm trí con người không nghĩ đến việc mạo hiểm ở đó. AI, do thoát khỏi những hạn chế của tâm trí con người, đã phát hiện ra và khám phá những khu vực trước đây bị ẩn giấu này.

Thứ hai, nước đi 37 chứng minh sự khó hiểu của AI. Ngay cả sau khi AlphaGo chơi tiếp để giành chiến thắng, Suleyman và nhóm của ông vẫn không thể giải thích được cách AlphaGo quyết định đi nước cờ như thế. Ngay cả khi tòa án ra lệnh cho DeepMind cung cấp cho Sedol một lời giải thích, thì không ai có thể thực hiện được lệnh đó. Suleyman viết: “Trong hiện tại, các mạng lưới nơ-ron trong AI hướng tới tính tự chủ là không thể nào giải thích được. Bạn không thể bắt ai đó thực hiện các bước trong quy trình ra quyết định để giải thích chính xác lý do tại sao một thuật toán đưa ra một dự đoán cụ thể. Các kỹ sư không thể nhìn thấu bên dưới lớp vỏ và dễ dàng giải thích từng chi tiết một về nguyên nhân gây ra điều gì đó. GPT‑4, AlphaGo và những thứ còn lại đều là những hộp đen, những gì chúng cho ra và quyết định của chúng là dựa trên những chuỗi tín hiệu nhỏ không rõ ràng và phức tạp đến mức không thể tưởng tượng nổi.”

Sự trỗi dậy của trí thông minh ngoài hành tinh không thể hiểu thấu gây ra mối đe dọa cho tất cả con người và gây ra mối đe dọa đặc biệt đối với nền dân chủ. Khi càng ngày càng có nhiều quyết định về cuộc sống của mọi người được đưa ra trong một hộp đen, nó sẽ khiến cử tri không thể hiểu và nó còn thách thức họ, thì nền dân chủ sẽ không còn hoạt động. Cụ thể, điều gì sẽ xảy ra khi các quyết định quan trọng không chỉ liên quan đến cuộc sống của cá nhân mà thậm chí còn là về các vấn đề tập thể như lãi suất của Cục Dự trữ Liên bang được đưa ra bởi các thuật toán không ai có thể hiểu thấu? Cử tri ‘loài người’ có thể tiếp tục bầu ra một tổng thống ‘loài người’, nhưng liệu đây có phải chỉ là một buổi lễ vô nghĩa không? Ngay cả chuyện là ngày nay, chỉ có một bộ phận nhỏ nhân loại thực sự hiểu được hệ thống tài chính. Một cuộc khảo sát năm 2014 đối với các nghị sĩ Anh – những người chịu trách nhiệm quản lý một trong những trung tâm tài chính quan trọng nhất thế giới – cho thấy chỉ có 12% hiểu chính xác rằng ‘tiền mới’ chỉ được tạo ra khi các ngân hàng cho vay. Thực tế này nằm trong số những nguyên tắc cơ bản nhất của hệ thống tài chính hiện đại. Như cuộc khủng hoảng tài chính 2007-8 đã chỉ ra, một số thiết bị và nguyên tắc tài chính phức tạp chỉ được một số ít phù thủy tài chính hiểu thấu. Điều gì sẽ xảy ra với nền dân chủ khi AI tạo ra các thiết bị tài chính thậm chí còn phức tạp hơn và khi số lượng con người hiểu được hệ thống tài chính giảm xuống bằng không?

Dịch câu chuyện ngụ ngôn cảnh báo của Goethe sang ngôn ngữ tài chính hiện đại, hãy tưởng tượng tình huống sau: một người học việc ở Phố Wall chán ngán với công việc cực nhọc của xưởng tài chính đã tạo ra một AI có tên là Broomstick (Cây Chổi), cung cấp cho nó một triệu đô la tiền làm hạt giống và ra lệnh cho nó kiếm thêm tiền. Đối với AI, tài chính là sân chơi lý tưởng, vì nó là một lĩnh vực hoàn toàn mang tính thông tin và toán học. AI vẫn thấy khó có thể tự lái ô tô, vì điều này đòi hỏi phải di chuyển và tương tác trong thế giới vật lý hỗn loạn, nơi mà “thành công” rất khó định nghĩa. Ngược lại, để thực hiện các giao dịch tài chính, AI chỉ cần xử lý dữ liệu và có thể dễ dàng đo lường thành công của mình qua toán học bằng đô la, euro hoặc bảng Anh. Nhiều đô la hơn tức là nhiệm vụ đã hoàn thành.

Để theo đuổi việc kiếm thêm nhiều đô la hơn, Broomstick không chỉ đưa ra các chiến lược đầu tư mới mà còn đưa ra các thiết bị tài chính hoàn toàn mới mà chưa có con người nào từng nghĩ đến. Trong hàng nghìn năm, trí óc con người chỉ khám phá một số lĩnh vực nhất định trong bối cảnh tài chính. Họ đã phát minh ra tiền, séc, trái phiếu, cổ phiếu, ETF, CDO và các loại phép thuật tài chính khác. Nhưng nhiều lĩnh vực tài chính vẫn chưa được khai thác, vì trí óc con người không nghĩ đến việc mạo hiểm ở đó. Broomstick, thoát khỏi những hạn chế của trí óc con người, đã khám phá và khai thác những lĩnh vực trước đây bị ẩn giấu này, thực hiện các động thái tài chính tương đương với bước đi cờ số 37 của AlphaGo.

Trong vài năm, khi Broomstick dẫn dắt nhân loại vào một vùng đất tài chính nguyên sơ, mọi thứ đều có vẻ tuyệt vời. Thị trường đang tăng vọt, tiền đổ vào dễ dàng và mọi người đều vui vẻ. Sau đó là một vụ sụp đổ thậm chí còn lớn hơn cả năm 1929 hay 2008. Nhưng không một con người nào – dù là tổng thống, chủ ngân hàng hay công dân – biết nguyên nhân gây ra nó và có thể làm gì về nó. Vì không có vị thần hay phù thủy nào xuất hiện để cứu hệ thống tài chính, nên các chính phủ tuyệt vọng đã yêu cầu sự giúp đỡ từ thực thể duy nhất có khả năng hiểu được những gì đang xảy ra – đó là Broomstick. AI đưa ra một số khuyến nghị về chính sách, chúng còn táo bạo hơn nhiều so với nới lỏng định lượng – và cũng mờ ám hơn nhiều. Broomstick hứa rằng những chính sách này sẽ cứu vãn tình hình, nhưng các chính trị gia con người – vì không thể hiểu được logic đằng sau các khuyến nghị của Broomstick – sợ rằng chúng có thể làm tan rã hoàn toàn cấu trúc tài chính và thậm chí là làm tiêu cả xã hội của thế giới. Họ có nên lắng nghe AI ​​không?

Máy tính vẫn chưa đủ mạnh để hoàn toàn thoát khỏi sự kiểm soát của chúng ta hoặc tự mình hủy diệt nền văn minh nhân loại. Miễn là nhân loại đoàn kết, chúng ta có thể xây dựng các thể chế mà chúng sẽ điều chỉnh AI, dù là trong lĩnh vực tài chính hay chiến tranh. Thật bất hạnh, nhân loại chưa bao giờ đoàn kết. Chúng ta luôn bị những kẻ xấu làm phiền, cũng như những bất đồng giữa những người tốt. Sự trỗi dậy của AI gây ra mối nguy hiểm hiện hữu cho nhân loại, không phải vì sự độc ác của máy tính, mà vì những thiếu sót của chính chúng ta.

Chính vì vậy, một nhà độc tài hoang tưởng có thể trao quyền lực vô hạn cho một AI dễ sai lầm, bao gồm cả quyền phát động các cuộc tấn công hạt nhân. Nếu sau đó AI mắc lỗi hoặc bắt đầu theo đuổi một mục tiêu bất ngờ, hậu quả có thể là thảm khốc, và không chỉ đối với quốc gia đó. Tương tự như vậy, những kẻ khủng bố có thể sử dụng AI để kích động một đại dịch toàn cầu. Bản thân những kẻ khủng bố có thể không có nhiều kiến ​​thức về dịch tễ học, nhưng AI có thể tổng hợp cho họ một mầm bệnh mới, đặt hàng từ các phòng thí nghiệm thương mại hoặc in nó bằng máy in 3D sinh học và đưa ra chiến lược tốt nhất để phát tán nó trên toàn thế giới, thông qua các sân bay hoặc chuỗi cung ứng thực phẩm. Sẽ ra sao nếu AI tổng hợp một loại vi-rút gây chết người như Ebola, dễ lây lan như Covid-19 và phát bệnh chậm như HIV? Vào thời điểm những nạn nhân đầu tiên bắt đầu tử vong và thế giới được cảnh báo về mối nguy hiểm này, hầu hết mọi người trên Trái Đất có thể đã bị nhiễm bệnh.

Nền văn minh nhân loại cũng có thể bị tàn phá bởi vũ khí hủy diệt hàng loạt qua xã hội, chẳng hạn như bằng những câu chuyện làm suy yếu mối quan hệ xã hội của chúng ta. Một AI được một quốc gia triển khai có thể được sử dụng để tung ra một loạt tin tức giả, tiền giả và con người giả để mọi người ở nhiều quốc gia khác mất khả năng tin tưởng bất cứ điều gì hoặc bất kỳ ai.

Nhiều xã hội – cả dân chủ lẫn độc tài – có thể hành động một cách có lương tâm để quản lý những cách sử dụng AI như vậy, nhằm trấn áp những kẻ xấu và kiềm chế tham vọng nguy hiểm của những người nắm quyền cai trị và những kẻ cuồng tín của chính xứ sở của họ. Nhưng nếu ngay cả một số ít xã hội không làm như vậy, điều này có thể đủ để gây nguy hiểm cho toàn thể nhân loại. Biến đổi khí hậu có thể tàn phá ngay cả những quốc gia áp dụng các quy định tuyệt vời về môi trường, vì đây là vấn đề toàn cầu chứ không phải là vấn đề quốc gia. AI cũng là vấn đề toàn cầu. Theo đó, để hiểu được những cách hành xử của máy tính mới, việc xem xét cách các xã hội riêng lẻ có thể phản ứng với AI là chưa đủ. Chúng ta cũng cần phải xem xét cách AI có thể thay đổi mối quan hệ giữa các xã hội trên phạm vi toàn cầu.

Vào thế kỷ 16, khi những người Tây Ban Nha, Bồ Đào Nha và Hà Lan đi chinh phạt thế giới và xây dựng nên những đế chế toàn cầu đầu tiên trong lịch sử, họ mang theo tàu buồm, ngựa và thuốc súng. Khi người Anh, người Nga và người Nhật tranh quyền bá chủ vào thế kỷ 19 và 20, họ dựa vào tàu hơi nước, đầu máy xe lửa và súng máy. Vào thế kỷ 21, muốn thống trị một thuộc địa, bạn không còn cần phải đưa tàu chiến vào nữa. Bạn cần phải lấy dữ liệu ra. Một vài tập đoàn hoặc chính phủ thu thập dữ liệu của thế giới có thể biến phần còn lại của thế giới thành các thuộc địa dữ liệu – những vùng lãnh thổ mà họ kiểm soát không phải bằng vũ lực quân sự công khai mà bằng thông tin.

Hãy thử tưởng tượng một tình huống – chẳng hạn như sau 20 năm nữa – khi một ai đó ở Bắc Kinh hoặc San Francisco sở hữu được toàn bộ lý lịch đời sống cá nhân của mọi chính trị gia, nhà báo, tướng tá và giám đốc điều hành ở quốc gia của bạn: mọi tin nhắn họ đã từng gửi, mọi tìm kiếm trên web họ từng thực hiện, mọi căn bệnh họ mắc phải, mọi cuộc gặp gỡ tình dục họ thích, mọi trò đùa họ kể, mọi hối lộ họ nhận. Như thế, bạn vẫn sẽ sống ở một quốc gia độc lập, hay bây giờ bạn sẽ sống trong một thuộc địa dữ liệu? Điều gì sẽ xảy ra khi quốc gia của bạn thấy mình hoàn toàn phụ thuộc vào mạng lưới hạ tầng của kỹ thuật số và các hệ thống do AI cung cấp mà quốc gia đó không có quyền kiểm soát một cách có hiệu quả?

Trong lĩnh vực kinh tế, các đế chế trước đây dựa trên các nguồn tài nguyên vật chất như đất đai, bông vải và dầu mỏ. Điều này đặt ra giới hạn cho khả năng tập trung của cải kinh tế và quyền lực chính trị của đế chế vào một nơi. Vật lý và địa dư không cho phép toàn bộ đất đai, bông vải hoặc dầu mỏ của thế giới được chuyển đến một quốc gia. Điều này khác với các đế chế thông tin mới. Dữ liệu có thể di chuyển với tốc độ ánh sáng và các thuật toán không chiếm nhiều không gian. Do đó, sức mạnh thuật toán của thế giới có thể tập trung vào một trung tâm duy nhất. Các kỹ sư ở một quốc gia duy nhất có thể viết mã và kiểm soát các chìa khóa quan trọng cho tất cả các thuật toán quan trọng đang vận hành toàn bộ thế giới.

Do đó, AI và tự động hóa đặt ra một thách thức đặc biệt đối với các nước còn đang tiến trình nhưng ở mức yếu hơn. Trong nền kinh tế toàn cầu do AI thúc đẩy, các nhà lãnh đạo kỹ thuật số nắm giữ phần lớn lợi nhuận và có thể sử dụng của cải của mình để đào tạo lại lực lượng lao động và kiếm được nhiều lợi nhuận hơn nữa. Trong khi đó, giá trị của lao động không có kỹ năng ở các quốc gia bị bỏ lại phía sau sẽ giảm, khiến họ tụt hậu hơn nữa. Kết quả có thể là có rất nhiều việc làm mới cùng khối tài sản khổng lồ ở San Francisco và Thượng Hải, trong khi nhiều nơi khác trên thế giới phải đối mặt với sự hủy hoại kinh tế. Theo công ty kế toán toàn cầu PricewaterhouseCoopers, AI dự kiến ​​sẽ bổ sung 15,7 nghìn tỷ đô la (12,3 nghìn tỷ bảng Anh) vào nền kinh tế toàn cầu vào năm 2030. Nhưng nếu xu hướng hiện tại tiếp tục, dự kiến ​​Trung Quốc và Bắc Mỹ – hai siêu cường AI hàng đầu – sẽ cùng nhau mang về 70% số tiền đó.

Trong thời kỳ chiến tranh lạnh, bức màn sắt ở nhiều nơi được làm bằng kim loại đúng theo nghĩa đen: đó là hàng rào thép gai ngăn cách các quốc gia với nhau. Giờ đây, thế giới ngày càng bị chia cắt bởi bức màn silicon. Mã trên điện thoại thông minh của bạn quyết định bạn sống ở phía nào của bức màn silicon, thuật toán nào điều hành cuộc sống của bạn, ai kiểm soát sự chú ý của bạn và dữ liệu của bạn trôi về đâu.

Việc truy cập thông tin qua bức màn silicon đang trở nên khó khăn, chẳng hạn như giữa Trung Quốc và Hoa Kỳ hoặc giữa Nga và EU. Hơn nữa, hai bên ngày càng chạy trên các mạng kỹ thuật số khác nhau, sử dụng các mã máy tính khác nhau. Ở Trung Quốc, bạn không thể sử dụng Google hoặc Facebook và bạn không thể truy cập Wikipedia. Ở Hoa Kỳ, rất ít người sử dụng các ứng dụng hàng đầu của Trung Quốc như WeChat. Quan trọng hơn, hai lĩnh vực kỹ thuật số này không phải là hình ảnh trong tấm gương phản chiếu lẫn nhau. Baidu không phải là Google của Trung Quốc. Alibaba không phải là Amazon của Trung Quốc. Họ có các mục tiêu khác nhau, kiến ​​trúc kỹ thuật số khác nhau và tác động khác nhau đến cuộc sống của mọi người. Những khác biệt này ảnh hưởng đến phần lớn thế giới, vì hầu hết các quốc gia đều dựa vào phần mềm của Trung Quốc và Hoa Kỳ thay vì công nghệ địa phương.

Hoa Kỳ cũng gây sức ép buộc các đồng minh và khách hàng của mình tránh xa phần cứng của Trung Quốc, chẳng hạn như mạng cơ sở hạ tầng 5G của Huawei. Chính quyền Trump đã chặn nỗ lực của tập đoàn Broadcom của Singapore nhằm mua lại nhà sản xuất chip máy tính hàng đầu của Mỹ, Qualcomm. Họ lo ngại người nước ngoài có thể gài cửa hậu vào chip hoặc sẽ ngăn cản chính phủ Hoa Kỳ chèn cửa hậu của riêng mình vào đó. Cả chính quyền Trump và Biden đều đặt ra những giới hạn nghiêm ngặt đối với hoạt động buôn bán chip điện toán hiệu suất cao cần thiết cho sự phát triển của AI. Các công ty Hoa Kỳ hiện nay đang bị cấm xuất khẩu những con chip như vậy sang Trung Quốc. Mặc dù trong ngắn hạn, điều này cản trở Trung Quốc trong cuộc đua AI, nhưng về lâu dài, nó thúc đẩy Trung Quốc phát triển một lĩnh vực kỹ thuật số hoàn toàn riêng biệt, khác biệt với lĩnh vực kỹ thuật số của Hoa Kỳ ngay cả trong những tòa nhà nhỏ nhất của nước này.

Do đó, hai khu vực kỹ thuật số có thể trôi dạt ngày càng xa nhau. Từ nhiều thế kỷ, các công nghệ thông tin mới đã thúc đẩy quá trình toàn cầu hóa và đưa mọi người trên khắp thế giới đến gần nhau hơn. Nghịch lý thay, công nghệ thông tin ngày nay mạnh mẽ đến mức có khả năng chia rẽ nhân loại bằng cách bao bọc những người khác nhau trong các kén thông tin riêng biệt, chấm dứt ý tưởng về một thực tế chung của con người. Trong nhiều thập kỷ, thế giới phần lớn nằm ẩn trong mạng (web). Vào những thập kỷ tới nó rất có thể là kén (cocoon).

Mặc dù Trung Quốc và Hoa Kỳ hiện đang dẫn đầu trong cuộc chạy đua về AI, nhưng họ không đơn độc. Các quốc gia hoặc khối khác, chẳng hạn như EU, Ấn Độ, Brazil và Nga, có thể cố gắng tạo ra các kén kỹ thuật số của riêng họ, mỗi bên chịu ảnh hưởng của các truyền thống chính trị, văn hóa và tôn giáo khác nhau. Thay vì bị chia cắt giữa hai đế chế toàn cầu, thế giới có thể bị chia cắt thành hàng chục đế chế.

Các đế chế mới càng cạnh tranh với nhau thì nguy cơ xung đột vũ trang càng lớn. Chiến tranh lạnh giữa Hoa Kỳ và Liên Xô không bao giờ leo thang thành một cuộc đối đầu quân sự trực tiếp, phần lớn là nhờ vào học thuyết cho là chắc chắn hai phe sẽ hủy diệt lẫn nhau. Nhưng nguy cơ leo thang trong thời đại AI lớn hơn, vì chiến tranh mạng về bản chất khác với chiến tranh hạt nhân.

Vũ khí mạng có thể phá hủy lưới điện của một quốc gia, nhưng chúng cũng có thể được sử dụng để phá hủy một cơ sở nghiên cứu bí mật, làm nhiễu cảm biến của kẻ thù, thổi bùng một vụ bê bối chính trị lên, thao túng các cuộc bầu cử hoặc chỉ cần hack duy nhất một chiếc điện thoại thông minh. Và chúng có thể làm tất cả những điều đó một cách lén lút. Chúng không thông báo sự hiện diện của mình bằng một đám mây hình nấm và một cơn bão lửa, cũng không để lại dấu vết rõ ràng từ bệ phóng đến mục tiêu. Do đó, đôi khi rất khó để biết liệu một cuộc tấn công có xảy ra hay không hoặc ai đã phát động nó. Do đó, sự cám dỗ để bắt đầu một cuộc chiến tranh mạng có giới hạn là rất lớn, và sự cám dỗ để leo thang nó cũng vậy.

Một sự khác biệt quan trọng thứ hai có liên quan đến khả năng dự đoán. Chiến tranh lạnh trước đây giống như một ván cờ vua siêu lý trí, và sự chắc chắn về sự hủy diệt trong trường hợp xảy ra xung đột hạt nhân lớn đến mức mong muốn bắt đầu một cuộc chiến tranh cũng nhỏ đi một cách tương ứng. Chiến tranh mạng thiếu sự chắc chắn này. Không ai biết chắc chắn mỗi bên đã đặt bom logic, ngựa thành Troy và phần mềm độc hại ở đâu. Không ai có thể chắc chắn liệu vũ khí của chính họ có thực sự hiệu quả khi được sử dụng hay không. Liệu tên lửa của Trung Quốc có bắn khi lệnh được đưa ra hay có lẽ người Mỹ sẽ hack được chúng hoặc phá được chuỗi mệnh lệnh? Liệu hàng không mẫu hạm của Mỹ có hoạt động như mong đợi hay có lẽ chúng sẽ tắt máy một cách bí ẩn hoặc chạy lòng vòng?

Sự không chắc chắn như vậy làm suy yếu học thuyết về sự chắc chắn cả hai sẽ cùng bị hủy diệt. Một bên có thể tự thuyết phục mình – có thể đúng nhưng cũng có thể sai – rằng họ có thể tung ra đòn tấn công phủ đầu thành công và tránh được sự trả đũa ồ ạt. Tệ hơn nữa, nếu một bên nghĩ rằng họ có cơ hội như vậy, thì sự cám dỗ tung ra đòn tấn công phủ đầu có thể trở nên không thể cưỡng lại được, bởi vì người ta không bao giờ biết được cơ hội sẽ còn mở ra trong bao lâu nữa. Lý thuyết trò chơi nêu ra rằng: tình huống nguy hiểm nhất trong một cuộc chạy đua vũ trang là khi một bên cảm thấy mình đang có lợi thế nhưng lợi thế này đang dần mất đi.

Ngay cả khi nhân loại tránh được tình huống tồi tệ nhất của chiến tranh toàn cầu, thì sự trỗi dậy của các đế chế kỹ thuật số mới nổi lên vẫn có thể gây nguy hiểm cho sự tự do và thịnh vượng của hàng tỷ người. Các đế chế công nghiệp của thế kỷ 19 và 20 đã khai thác và đàn áp các thuộc địa của họ, và sẽ là điều ngu ngốc nếu ta mong đợi các tân đế chế về kỹ thuật số sẽ hành xử tốt hơn thời xưa nhiều. Hơn nữa, nếu thế giới bị chia cắt thành các đế chế đối nghịch nhau, thì nhân loại khó có thể hợp tác để vượt qua cuộc khủng hoảng sinh thái hoặc để điều chỉnh AI và các công nghệ đột phá khác như kỹ thuật sinh học.

Sự phân chia thế giới thành các đế chế kỹ thuật số đối thủ phù hợp với tầm nhìn chính trị của nhiều nhà lãnh đạo tin rằng thế giới là một khu rừng rậm, rằng nền hòa bình tương đối của những thập kỷ gần đây chỉ là ảo tưởng và lựa chọn thực sự duy nhất là đóng vai kẻ săn mồi hay con mồi.

Với sự lựa chọn như vậy, hầu hết các nhà lãnh đạo đều muốn đi vào lịch sử như những kẻ săn mồi và thêm tên của họ vào danh sách những kẻ chinh phạt đáng sợ mà những học sinh không may mắn phải học thuộc lòng trong kỳ thi lịch sử. Tuy nhiên, những nhà lãnh đạo này cần được nhắc nhở rằng có một kẻ săn mồi cực kỳ nguy hiểm mới nhú lên trong khu rừng rậm. Nếu nhân loại không tìm ra cách hợp tác và bảo vệ lợi ích chung của mình, tất cả chúng ta sẽ dễ dàng trở thành con mồi của AI.

Nguyên tác: Never summon a power you can’t control. Yuval Noah Harari.
Người dịch: Trần Ngọc

Yuval Noah Harari là một nhà sử học người Israel và là giáo sư Khoa Lịch sử tại Đại học Hebrew ở Jerusalem. Ông là tác giả của các cuốn sách luận về lịch sử thuộc hàng best-seller trên toàn thế giới: Sapiens: Lược sử loài người (2014), Homo Deus: Lược sử tương lai (2016) và 21 bài học cho thế kỷ 21 (2018). Bài văn trên là trích dịch một đoạn trong tác phẩm mới nhất của ông, Nexus: Brief History of Information Network (Tạm dịch: Mối Liên Hệ: Lược sử Mạng Thông Tin).

(các hình trong bài được thêm vào để minh họa, chúng không có trong sách)

Direct link: https://caidinh.com/trangluu1/khoahockythuat/dungbaogiomoigoi.html