Cuộc Cách Mạng Ai: Con Đường Dẫn Đến “siêu Trí Tuệ Nh N Tạo”

Chúng ta đang tiệm cận với một giai đoạn thay đổi chóng mặt đến mức có thể so sánh với  sự xuất hiện của con người trên Trất Đất. — Vernor Vinge

Hãy nhìn vào đồ thị bên dưới. Bạn cảm thấy như thế nào khi đứng ở vị trí này? 

Nguồn: Waitbutwhy.com


 

Có vẻ như đó là một chỗ đứng khá kích thích. Nhưng bạn nên nhớ rằng mình đang đứng trên biểu đồ thời gian, và bạn không thể thấy trước được đường bên phải bạn. Vì vậy, dưới đây mới chính là cảm giác thực sự của bạn:

Có lẽ cảm thấy cũng bình thường thôi...

Tương lai xa - Sẽ đến nhanh thôi

Hãy tưởng tượng có một cỗ máy thời gian đưa bạn quay trở lại năm 1750 – thời điểm mà thế giới chưa hề có điện, mọi phương tiện giao thông đều phải chạy bằng cỏ khô (xe bò, xe ngựa). Hoặc với khoảng cách xa, chúng ta phải hét thật to, hoặc bắn đại bác lên trời mới có thể liên lạc được. Ở đó bạn gặp một chàng trai, và bạn dắt anh ta đến thế giới của năm 2015. Bạn đi loanh quanh và xem xét những phản ứng của anh ta. Đúng là khó mà hiểu được anh ta nghĩ gì khi chứng kiến những thứ mới mẻ đang diễn ra ở năm 2015 này. Nơi có những chiếc xe trông như các viên nang sáng bóng chạy trên đường cao tốc. Anh ấy có thể trò chuyện với một người cách nửa vòng Trái Đất và lệch múi giờ hẳn một ngày. Anh ấy có thể xem một trận thể thao đang diễn ra cách 1000 dặm. Anh ấy có thể nghe một đêm nhạc đã được trình diễn cách đây 50 năm. Hay cái khối hình chữ nhật ma thuật này (điện thoại di động) có thể thu lại mọi hình ảnh, âm thanh trong từng khoảnh khắc. Nhìn vào cái chấm xanh dương đang chuyển động trên bản đồ, anh ấy có thể biết mình đang ở đâu. Trò chuyện với một ai đó và thấy cả mặt mũi họ, dù đang ở một nơi xa, và còn rất nhiều thứ khác nữa, đó là thế giới của những phép thuật không thể tưởng tượng được. Đây mới chỉ là những điều xảy ra trước khi bạn cho anh ấy xem internet hoặc giải thích những thứ như trạm vũ trụ quốc tế, máy gia tốc hạt lớn, vũ khí hạt nhân hoặc thuyết tương đối rộng.

 

Với những trải nghiệm này, anh ấy sẽ cảm thấy “ngạc nhiên, bị sốc, kinh ngạc?”. Không, những từ ngữ này không đủ mạnh để lột tả hết cảm xúc của anh ấy đâu. Tôi nghĩ anh ấy thực sự có thể chết đứng ngay lúc đó luôn.

Nhưng thú vị là - nếu anh ấy trở về năm 1750 và cảm thấy ganh tị vì chúng ta đã giải trí trên phản ứng của anh, thì anh ấy quyết định làm điều tương tự. Anh ấy sẽ dùng cỗ máy thời gian về lại khoảng năm 1500 và dắt một người đến năm 1750, và cho người đó thấy mọi thứ ở đây. Chàng trai năm 1500 có thể sẽ bị sốc bởi rất nhiều thứ, nhưng đây không phải là trải nghiệm quá điên rồ, anh ta cũng sẽ không sốc đến chết. Tại sao vậy? Bởi vì sự thay đổi của khoảng 1500 đến 1750 không có quá nhiều khác biệt như 1750 đến 2015. Chàng trai 1500 sẽ cố học vài kiến thức cực kỳ khó hiểu về không gian và vật lý. Anh ta cũng sẽ rất ấn tượng với cách những lời cam kết của Châu Âu trở thành xu hướng chủ nghĩa đế quốc mới. Và anh ấy sẽ phải thay đổi những suy nghĩ về bản đồ thế giới của mình. Nhưng khi đã trải qua cuộc sống hàng ngày vào năm 1750 — về giao thông, cách liên lạc, v.v. — chắc chắn sẽ không thể khiến anh ta chết được.

Để chàng trai 1750 thấy được sự thích thú như chúng ta thấy với anh ấy, thì anh ta phải quay trở lại thời điểm xa hơn nữa. Có thể là khoảng 12.000 năm trước Công Nguyên, trước khi Cách mạng Nông nghiệp lần thứ nhất hình thành nên những thành phố đầu tiên và có khái niệm về nền văn minh. Nếu một ai đó bước ra từ thế giới thuần săn bắn hái lượm, nơi mà con người dù ít hay nhiều, chỉ như những loài vật khác - nhìn thấy đế quốc rộng lớn của loài người vào năm 1750, với những nhà thờ cao chót vót, những con tàu vượt đại dương, các khái niệm về "bên trong", những kiến thức và khám phá mà con người tích lũy được có thể sẽ khiến anh ta chết đứng. 

Và điều gì sẽ xảy ra nếu sau khi chết, anh ta lại ganh tị và muốn làm điều tương tự. Giả sử anh ta quay ngược 12.000 năm về năm 24.000 TCN, đem một người ở đó đến năm 12.000 TCN và cho người đó quan sát mọi thứ, và sau đó chàng trai này bảo rằng: “Okay, vậy ý anh là gì?”. Để chàng trai năm 12.000 TCN có được niềm vui tương tự, anh ta phải quay ngược lại hơn 100.000 năm, tìm một người ở đó và cho họ thấy lửa và ngôn ngữ lần đầu tiên trong đời.

Để một người có thể xuyên không đến tương lai và bị sốc đến chết thì số năm họ xuyên qua phải đủ đến giai đoạn "mức độ chết của sự phát triển" (die level of progress) hay đơn vị phát triển đến mức chết (Die Progress Unit - DPU). Một DPU mất hơn 100.000 năm trong thời kỳ săn bắn hái lượm, nhưng sau Cách mạng Nông nghiệp, nó chỉ mất khoảng 12.000 năm. Còn thế giới hậu Cách mạng Công nghiệp đã di chuyển nhanh chóng đến mức một người sống ở năm 1750 chỉ cần đi về phía trước vài trăm năm để một DPU xảy ra.

Điều này cho thấy tốc độ phát triển của con người càng ngày càng nhanh - thứ mà nhà tương lai học Ray Kurzweil gọi là Định luật hồi quy tăng tốc của lịch sử loài người (Law of  Accelerating Returns). Nghĩa là các xã hội tiên tiến hơn có khả năng tiến bộ với tốc độ nhanh hơn các xã hội kém tiên tiến. Nhân loại thế kỷ 19 biết nhiều hơn, có công nghệ tốt hơn nhân loại thế kỷ 15 và vì vậy không có gì ngạc nhiên khi nhân loại thế kỷ 19 đã đạt được nhiều tiến bộ hơn trong so với thế kỷ 15 - vì vậy, nhân loại thế kỷ 15 không thể nào so sánh được với thế kỷ 19.

Định luật này cũng hoạt động trên quy mô nhỏ hơn. Bộ phim Back to the Future ra mắt vào năm 1985, trong đó “quá khứ” diễn ra vào năm 1955. Trong phim, khi Michael J. Fox quay trở lại năm 1955, ông đã rất ngạc nhiên vì sự nguyên sơ của TV, giá của soda, sự thờ ơ với tiếng guitar điện chói tai và các biến đổi trong tiếng lóng. Đó là một thế giới khác nhưng không có quá nhiều khác biệt. Giả sử bộ phim được thực hiện vào ngày hôm nay, còn quá khứ diễn ra vào năm 1985, với khoảng cách lớn này, có lẽ bộ phim đã thú vị hơn nhiều. Khi đó nhân vật Marty McFly ngày nay sẽ quay lại thời điểm trước khi có máy tính cá nhân, internet, điện thoại di động. Và cậu, một thiếu niên sinh vào cuối những năm 90, hẳn sẽ cảm thấy lạc lõng hơn nhiều ở năm 1985 so với Marty McFly của năm 1955.

Đây cũng là điều mà chúng ta vừa thảo luận — Định luật hồi quy tăng tốc. Tỷ lệ phát triển trung bình từ năm 1985 - 2015 cao hơn tỷ lệ từ năm 1955 - 1985, bởi vì thời kỳ ngay trước đây đã tiên tiến hơn nhiều - nghĩa là 30 năm gần đây đã thay đổi nhiều hơn so với 30 năm trước đó.

Vì vậy, sự phát triển đang diễn ra ngày càng lớn hơn và nhanh hơn. Điều này gợi lên một số vấn đề khá nhức nhối về tương lai của chúng ta, phải không?

Kurzweil đặt ra giả thuyết rằng, tốc độ phát triển của năm 2000 ngang bằng với tốc độ phát triển của 20 năm trong thế kỷ 20. Nói cách khác, vào năm 2000, tốc độ phát triển sẽ nhanh hơn gấp 5 lần so với tốc độ phát triển trung bình của thế kỉ 20. Ông tin rằng những thành tựu đáng giá của thế kỷ này đã xảy ra từ năm 2000 đến năm 2014 và chỉ trong 7 năm tiếp theo, tức là vào năm 2021 sẽ lại có những thành tựu đáng giá khác. Vài thập kỷ sau, ông tin rằng các giai đoạn phát triển vượt bậc của thế kỷ 20 sẽ xảy ra nhiều lần trong cùng một năm và thậm chí nhanh hơn, trong vòng chưa đầy một tháng. Nói chung, theo Định luật hồi quy tăng tốc, Kurzweil tin rằng thế kỷ 21 sẽ đạt được sự phát triển gấp 1.000 lần thế kỷ 20. 

 

Nếu lời Kurzweil nói là đúng, thì chúng ta có thể sẽ bị kinh ngạc bởi những gì diễn ra vào năm 2030, giống hệt như cách anh chàng 1750 ở năm 2015. Tức là DPU tiếp theo có thể chỉ mất vài thập kỷ — và thế giới vào năm 2050 có thể khác nhiều so với thế giới ngày nay đến nỗi chúng ta khó mà nhận ra được.

Đây không phải là khoa học viễn tưởng. Đây là điều mà nhiều nhà khoa học thông minh và hiểu biết hơn chúng ta tin chắc. Và nếu bạn nhìn lại quá khứ, thì chúng ta dự đoán như vậy quả là hợp lí.

Vậy thì tại sao, khi bạn nghe tôi nói rằng “35 năm nữa thế giới có thể hoàn toàn không thể nhận ra được”, và bạn nghĩ rằng, “Nghe hay đấy...nhưng nahhhh”? Có ba lý do khiến chúng ta hoài nghi về những dự báo kỳ lạ về tương lai:

1) Khi nói đến lịch sử, chúng ta nghĩ theo đường thẳng. 

Khi hình dung sự phát triển của 30 năm tới, chúng ta thường nhìn lại tiến trình của 30 năm trước để dự báo về những gì có thể xảy ra. Khi nghĩ về mức độ thay đổi của thế giới trong thế kỷ 21, chúng ta chỉ lấy tiến trình của thế kỷ 20 và thêm vào mốc từ năm 2000. Đây cũng là sai lầm mà chàng trai năm 1750 mắc phải khi anh ta trông đợi sẽ thổi bay tâm trí của chàng trai 1500 như cách tâm trí của anh ta bị thổi bay vào năm 2015. Thực tế là chúng ta thường suy nghĩ theo tuyến tính, trong khi nên suy nghĩ theo cấp số nhân. Nếu ai đó hiểu được điều này, họ có thể dự đoán những tiến bộ của 30 năm tới bằng cách lấy tốc độ phát triển hiện tại và đánh giá dựa trên đó, chứ không phải nhìn vào 30 năm trước. Chúng có thể sẽ chính xác hơn, nhưng vẫn còn sai sót. Để dự đoán chính xác về tương lai, bạn cần tưởng tượng mọi thứ đang chuyển động với tốc độ nhanh hơn nhiều so với tốc độ hiện tại.

 

2) Quỹ đạo của lịch sử gần đây thường không phản ánh đúng sự thật toàn cảnh

Đầu tiên, một đường cong cũng có vẻ tuyến tính (đường thẳng) khi bạn chỉ nhìn vào một phần nhỏ của nó, giống như khi bạn nhìn một đoạn nhỏ của một vòng tròn lớn, nó trông gần giống như một đường thẳng. Thứ hai, việc tăng trưởng theo cấp số nhân không phải lúc nào cũng trơn tru và đồng đều. Kurzweil giải thích rằng sự tiến bộ xảy ra tại "đường cong chữ S":

Khi thế giới có một mô thức mới nổi lên, một đường cong chữ S được tạo ra. Đường cong này trải qua ba giai đoạn: 

1. Tăng trưởng chậm (giai đoạn đầu của tăng trưởng theo cấp số nhân)

2. Tăng trưởng nhanh (giai đoạn sau đó, bùng nổ của tăng trưởng theo cấp số nhân)

3. Chậm lại khi mô thức cụ thể trưởng thành

Nếu bạn chỉ nhìn vào lịch sử gần đây, phần đường cong chữ S bạn đang ở hiện tại có thể che khuất nhận thức của bạn về việc mọi thứ đang phát triển nhanh như thế nào. Khoảng thời gian từ 1995 đến 2007 chứng kiến ​​sự bùng nổ của Internet, sự ra đời của Microsoft, Google và Facebook, mạng xã hội, điện thoại di động và sau đó là điện thoại thông minh. Đó là Giai đoạn 2: phần bùng nổ tăng trưởng của S. Nhưng từ 2008 đến 2015 lại chậm đột phá hơn, ít nhất là về mặt công nghệ. Người ta có thể nghĩ về tương lai bằng cách xem xét những năm trước để đánh giá tốc độ phát triển hiện tại, nhưng như vậy lại thiếu mất cái nhìn toàn cảnh. Trên thực tế, một đợt tăng trưởng mới và rất lớn ở Giai đoạn 2 có thể đang được mồi lửa ngay lúc này. 

3) Kinh nghiệm là thứ khiến chúng ta trở nên cứng nhắc khi dự đoán về tương lai

Chúng ta có những nhận định về thế giới dựa trên trải nghiệm cá nhân. Và các trải nghiệm về tốc độ phát triển của những năm gần đây đã ăn sâu vào đầu chúng ta đến mức ta chắc chắn rằng mọi thứ tiếp theo cũng sẽ xảy ra như vậy. Chúng ta cũng bị giới hạn bởi sức tưởng tượng của mình, vì vậy chúng ta lấy kinh nghiệm của mình và sử dụng nó để dự đoán về tương lai — nhưng thông thường, những gì chúng ta biết lại không phải là công cụ để suy nghĩ chính xác về tương lai. Khi chúng ta nghe một lời dự đoán mâu thuẫn với quan niệm dựa trên kinh nghiệm của mình, bản năng của chúng ta cho rằng điều đó thật ngây thơ. Nếu tôi nói rằng bạn có thể sống đến 150 hoặc 250 tuổi, hoặc sẽ bất tử, bản năng của bạn sẽ nói rằng “Thật ngu ngốc – trong lịch sử thì ai cũng đều chết.” Vâng, không ai trong quá khứ mà không chết. Nhưng cũng chẳng có ai lái máy bay, trước khi máy bay được phát minh.

Vì vậy bạn có thể cảm thấy nahhh đúng trong suốt quá trình đọc bài viết này, nhưng thực tế có thể là sai. Sự thật là, nếu chúng ta suy nghĩ theo cách logic và mong đợi các mô hình trong lịch sử tiếp tục diễn ra, thì chúng ta nên kết luận rằng sẽ còn rất, rất, rất nhiều thay đổi trong những thập kỷ tới hơn những gì chúng ta nghĩ. Logic cũng cho rằng nếu những loài cao cấp nhất trên hành tinh ngày càng phát triển lớn hơn và nhanh hơn bao giờ hết, thì đến một lúc nào đó, họ sẽ tạo ra một bước nhảy vọt làm thay đổi hoàn toàn cuộc sống mà họ từng biết và thay đổi nhận thức thế nào là một con người. Giống như cách mà quá trình tiến hóa tiếp tục tạo ra những bước tiến vượt bậc về trí thông minh, và cuối cùng nó tạo ra một bước nhảy vọt làm thay đổi hoàn toàn ý nghĩa của bất kỳ sinh vật nào sống trên Trái đất. Và nếu bạn dành thời gian đọc về những gì đang diễn ra ngày nay của khoa học và công nghệ, bạn sẽ bắt đầu thấy rất nhiều dấu hiệu đang âm thầm ám chỉ rằng cuộc sống mà chúng ta biết hiện tại không thể ngăn cản bước nhảy vọt sắp tới.

Con đường dẫn đến Siêu trí tuệ

AI là gì?

Nếu giống tôi, bạn có thể đã từng nghĩ Trí tuệ nhân tạo là một khái niệm khoa học viễn tưởng ngớ ngẩn. Nhưng gần đây có rất nhiều người nghiêm túc đề cập đến nó, mà bạn thì thực sự vẫn không hiểu lắm.

Có ba lý do khiến nhiều người nhầm lẫn về thuật ngữ AI:

1) Chúng ta liên kết AI với phim. Những bộ phim như Star Wars, Terminator, 2001: A Space Odyssey, và ngay cả The Jetsons đều là phim hư cấu, và các nhân vật robot cũng vậy. Vì thế mà AI nghe có vẻ hư cấu nốt.

2) AI là một chủ đề rộng lớn. Nó bao gồm từ máy tính trên điện thoại đến ô tô tự lái cho đến thứ gì đó có thể thay đổi thế giới một cách đáng kinh ngạc trong tương lai. Và AI có liên quan tới tất cả những thứ này, đây là điều mà chúng ta chưa hiểu rõ.

3) Chúng ta sử dụng AI mọi lúc trong ngày, nhưng lại thường không nhận ra đó là AI. John McCarthy, người đã đặt ra thuật ngữ “Trí tuệ nhân tạo” vào năm 1956, đã phàn nàn rằng “ngay khi vừa đem vào sử dụng là chẳng ai gọi nó là AI nữa.” Vì thế, AI nghe giống như một dự đoán tương lai hoang đường hơn là thực tế. Đồng thời, nó nghe giống như một khái niệm nhạc pop từ quá khứ chưa từng trở thành hiện thực. Ray Kurzweil nghe mọi người nói rằng AI đã khô héo vào những năm 1980, điều mà ông cho rằng cũng giống như với việc người ta “khăng khăng rằng Internet đã chết trong sự sụp đổ của chấm-com (tên miền) vào đầu những năm 2000.” 

Vì vậy, hãy làm rõ mọi thứ. Đầu tiên, hãy ngưng nghĩ đến robot. Robot là vật chủ chứa AI, đôi khi bắt chước hình dạng con người, đôi khi không – còn AI chính là máy tính bên trong robot. AI là bộ não, và robot là cơ thể — nếu nó có cơ thể. Ví dụ: phần mềm và dữ liệu đằng sau Siri là AI, giọng nói của người phụ nữ mà chúng ta nghe thấy là hiện thân của AI và không có robot nào ở đó cả.

Thứ hai, bạn có thể đã nghe qua thuật ngữ “điểm kỳ dị” hoặc “điểm kỳ dị công nghệ”. Thuật ngữ này đã được sử dụng trong toán học để mô tả một tình huống giống như tiệm cận nơi mà các quy tắc thông thường không còn được áp dụng. Nó được sử dụng trong vật lý để mô tả một hiện tượng như lỗ đen vũ trụ hoặc vụ nổ lớn (big bang). Điểm kì dị rơi vào các tình huống không áp dụng các quy tắc thông thường. Vào năm 1993, Vernor Vinge đã viết một bài luận nổi tiếng, trong đó ông áp dụng thuật ngữ này. Đó là vào thời điểm trong tương lai, khi trí thông minh của công nghệ vượt quá trí thông minh của con người — khoảnh khắc khi chúng ta biết cuộc sống sẽ mãi mãi thay đổi và các quy tắc bình thường sẽ không còn được áp dụng. Sau đó Ray Kurzweil đã xáo trộn mọi thứ một chút. Ông xác định điểm kỳ dị là thời điểm mà Định luật hồi quy tăng tốc đã đạt đến cực độ, công nghệ tiến bộ với tốc độ dường như vô hạn. Sau đó, chúng ta sẽ sống trong một thế giới hoàn toàn mới. Tôi nhận thấy rằng nhiều nhà tư tưởng AI ngày nay đã ngừng sử dụng thuật ngữ này, và nó cũng hơi khó hiểu thật, nên tôi sẽ không dùng nhiều ở đây (mặc dù chúng ta sẽ tập trung vào ý tưởng đó xuyên suốt).

Cuối cùng, mặc dù có nhiều loại hoặc hình thức AI khác nhau vì AI là một khái niệm rộng, nhưng các hình thức quan trọng mà chúng ta cần quan tâm đến đều dựa trên mức độ phát triển AI. AI được chia thành ba dạng chính:

AI mức độ 1) Trí tuệ nhân tạo hẹp (ANI): Đôi khi được gọi là AI yếu, Trí tuệ nhân tạo hẹp là AI chuyên về một lĩnh vực. AI có thể đánh bại nhà vô địch cờ vua thế giới, nhưng đó cũng là điều duy nhất nó làm được. Nếu bạn yêu cầu nó tìm ra cách tốt hơn để lưu trữ dữ liệu trên ổ cứng, thì nó sẽ chỉ có thể trơ ra mà nhìn bạn thôi.

AI mức độ 2) Trí tuệ nhân tạo chung (AGI): Đôi khi được gọi là AI mạnh hoặc AI cấp độ con người, Trí tuệ nhân tạo chung đề cập đến một máy tính thông minh như một con người - một cỗ máy có thể thực hiện bất kỳ tác vụ trí tuệ nào mà một con người có thể. Tạo ra AGI là một nhiệm vụ khó hơn nhiều so với tạo ANI và chúng ta vẫn chưa làm được. Giáo sư Linda Gottfredson mô tả trí thông minh là “một khả năng tinh thần rất tổng quát, liên quan đến khả năng suy luận, lập kế hoạch, giải quyết vấn đề, suy nghĩ trừu tượng, hiểu những ý tưởng phức tạp, học hỏi nhanh và biết rút kinh nghiệm.” AGI sẽ có thể làm tất cả những điều đó một cách dễ dàng nhất có thể.

AI mức độ 3) Siêu trí tuệ nhân tạo (ASI): Triết gia Oxford và nhà tư tưởng AI hàng đầu Nick Bostrom định nghĩa siêu trí tuệ là “trí tuệ thông minh hơn nhiều so với bộ não tốt nhất của con người trong mọi lĩnh vực, bao gồm sáng tạo khoa học, trí tuệ nói chung và kỹ năng xã hội”. Siêu trí tuệ nhân tạo bao gồm từ một máy tính chỉ thông minh hơn con người một chút đến một máy tính thông minh hơn hàng nghìn tỷ lần về mọi mặt. Vì vậy, ASI là lý do tại sao chủ đề của AI lại trở thành một chủ đề béo bở, và tại sao các từ “bất tử” và “tuyệt chủng” xuất hiện nhiều lần trong các bài viết này.

Tính đến thời điểm hiện tại, con người đã chinh phục được mức độ thấp nhất của AI — ANI theo nhiều cách và ANI đang có mặt ở khắp mọi nơi. Cuộc cách mạng AI là con đường từ ANI, thông qua AGI, đến ASI. Trên con đường này, chúng ta có thể tồn tại hoặc không, nhưng dù sao thì mọi thứ cũng sẽ bị thay đổi.

Hãy cùng xem xét thật kỹ về những điều mà các nhà tư tưởng hàng đầu trong lĩnh vực tin về con đường này và tại sao cuộc cách mạng này lại có thể xảy ra sớm hơn bạn nghĩ:

Nơi chúng ta đang ở — một thế giới vận hành bởi ANI

Trí tuệ nhân tạo hẹp là trí thông minh ngang bằng hoặc vượt qua trí thông minh của con người đối với một việc cụ thể. Ví dụ:

• Một chiếc ô tô có đầy đủ các hệ thống ANI. Từ phần máy tính tìm ra thời điểm phanh chống bó cứng cho đến phần máy tính điều chỉnh các thông số của hệ thống phun xăng. Xe tự lái của Google hiện đang được thử nghiệm sẽ chứa các hệ thống ANI tiên tiến cho phép xe nhận thức và phản ứng với hoàn cảnh xung quanh.

• Điện thoại của bạn là một nhà máy ANI thu nhỏ. Bạn định hướng bằng ứng dụng bản đồ, nhận các đề xuất âm nhạc phù hợp từ Pandora, kiểm tra thời tiết ngày mai, nói chuyện với Siri hoặc hàng tá hoạt động hàng ngày khác, đây đều là lúc bạn đang sử dụng ANI.

• Bộ lọc thư rác email của bạn là một loại ANI cổ điển — bộ lọc này chứa đầy dữ liệu về cách tìm ra đâu là thư rác hoặc không. Thông qua kinh nghiệm từ việc nhận các tùy chọn cụ thể từ bạn, ANI sẽ học và điều chỉnh thông tin cho phù hợp với bạn. Nest Thermostat (bộ điều chỉnh nhiệt độ) cũng làm điều tương tự khi nó bắt đầu tìm ra thói quen điển hình của bạn và hành động theo đó.

• Hay kinh dị hơn là khi tìm kiếm một sản phẩm trên Amazon, bạn sẽ thấy sản phẩm đó “được đề xuất cho bạn” trên một trang web khác. Hoặc bằng một cách nào đó, Facebook biết được ai là người phù hợp để gợi ý add friend cho bạn? Đó là mạng lưới các hệ thống ANI, làm việc cùng nhau để thông báo cho nhau về hình ảnh của bạn, bạn là ai, bạn thích gì. Sau đó sử dụng thông tin này để quyết định nội dung sẽ hiển thị. Tương tự đối với câu “Những người đã mua sản phẩm này cũng mua…” của Amazon — đằng sau đó là một hệ thống ANI có nhiệm vụ thu thập thông tin từ hành vi của hàng triệu khách hàng và tổng hợp thông tin để bán thêm cho bạn một cách thông minh và bạn sẽ mua nhiều hơn.

• Google Dịch là một hệ thống ANI cổ điển khác — hoạt động rất tốt trong một nhiệm vụ hẹp. Nhận dạng giọng nói là một công cụ khác và có rất nhiều ứng dụng sử dụng hai ANI này làm nhóm thay phiên (tag team), cho phép bạn nói một câu bằng một ngôn ngữ và điện thoại nói ra cùng câu đó bằng một ngôn ngữ khác.

• Khi máy bay của bạn hạ cánh, con người không phải là thứ quyết định máy bay sẽ đi đến cổng nào. Cũng giống như việc con người không phải là thứ quyết định giá vé của bạn.

• Các kỳ thủ Cờ caro, Cờ vua, Cờ vây, Cờ Backgammon và Cờ lật giỏi nhất thế giới hiện nay đều thuộc hệ thống ANI.

• Google tìm kiếm là một bộ não lớn của ANI với các phương pháp cực kỳ phức tạp để xếp hạng các trang và tìm ra nội dung cụ thể sẽ hiển thị cho bạn. Tương tự với trang chủ (newsfeed) của Facebook cũng vậy. 

Và đó chỉ là trong thế giới tiêu dùng. Các hệ thống ANI tinh vi được sử dụng rộng rãi trong các lĩnh vực và ngành công nghiệp như quân sự, sản xuất và tài chính (các nhà giao dịch theo thuật toán AI tần số cao chiếm hơn một nửa số cổ phần được giao dịch trên thị trường Hoa Kỳ) và trong các hệ thống chuyên gia như những hệ thống giúp bác sĩ chẩn đoán, nổi tiếng nhất là Watson của IBM, nó có đầy đủ dữ kiện và hiểu kỹ thuật nói Trebek (những âm thanh ở nốt cao, có tần số cao hơn thính giác con người), đủ để đánh bại những nhà vô địch Jeopardy (cuộc thi kiến thức) giỏi nhất.

Hệ thống ANI như hiện nay không thật sự đáng sợ. ANI bị trục trặc hoặc được lập trình sai cùng lắm chỉ có thể gây ra thảm họa cô lập như đánh sập lưới điện, gây hỏng hóc nhà máy điện hạt nhân hoặc gây ra thảm họa thị trường tài chính (chẳng hạn như sự cố Flash 2010, một chương trình ANI phản ứng sai cách đã gây ra tình huống bất ngờ và khiến thị trường chứng khoán giảm mạnh trong thời gian ngắn, lấy đi 1 nghìn tỷ đô la giá trị thị trường, và chỉ một phần trong số đó được phục hồi khi sai lầm được sửa chữa).

Mặc dù ANI không có khả năng gây ra mối đe dọa sinh tồn cho con người, nhưng chúng ta cũng nên xem hệ sinh thái ngày càng lớn và phức tạp của ANI là tiền thân của cơn bão làm thay đổi thế giới. Mỗi cải tiến ANI lại lặng lẽ thêm một viên gạch mới vào con đường dẫn đến AGI và ASI. Hay như Aaron Saenz nói, hệ thống ANI trên thế giới của chúng ta “giống như các axit amin trong dịch nguyên sinh sơ khai của Trái đất” - thứ vô tri vô giác của sự sống sẽ thức dậy bất ngờ vào một ngày không định trước. 

Con đường từ ANI đến AGI

Tại sao con đường này lại khó khăn đến thế 

Cho đến nay, bộ não con người vẫn là vật thể phức tạp nhất trong vũ trụ. Không gì có thể khiến bạn trân trọng trí thông minh con người hơn việc cố gắng tìm ra cách tạo ra một chiếc máy tính thông minh như chúng ta. Xây dựng các tòa nhà chọc trời, đưa con người vào không gian, tìm hiểu chi tiết về Vụ nổ lớn - tất cả đều dễ dàng hơn nhiều so với việc hiểu bộ não của con người hay cách tạo ra thứ gì đó tuyệt vời như nó.

Điều thú vị là những phần khó khăn khi cố gắng tạo ra AGI (một máy tính thông minh như con người nói chung, không chỉ ở một chuyên ngành hẹp) không hề giống như bạn nghĩ. Xây dựng một máy tính có thể nhân hai số có mười chữ số trong tích tắc — cực kỳ dễ dàng. Xây dựng một máy tính có thể nhìn con chó và trả lời đó là con chó hay con mèo — rất khó. Làm ra AI có thể đánh bại bất kỳ con người nào trong cờ vua? — Đã  làm được rồi. Tạo ra một AI có thể đọc một đoạn truyện tranh thiếu nhi, không chỉ nhận ra từ ngữ mà còn hiểu ý nghĩa của chúng nữa? Google hiện vẫn đang chi hàng tỷ đô la để cố gắng làm điều đó. Những thứ khó — như tính toán, chiến lược thị trường tài chính, dịch thuật — máy tính xử lý rất dễ dàng. Trong khi những thứ dễ dàng — như tầm nhìn, hành động, cử chỉ và nhận thức — thì cực kỳ khó đối với nó. Hay như nhà khoa học máy tính Donald Knuth đã nói, “AI hiện đã thành công trong việc làm mọi thứ có yêu cầu phải “suy nghĩ”, nhưng không làm được hầu hết những gì con người và động vật làm mà "không cần suy nghĩ.” 

Bạn nhanh chóng nhận ra rằng những điều tưởng chừng dễ dàng này lại phức tạp đến khó tin. Chúng chỉ có vẻ dễ dàng bởi vì những kỹ năng đó đã được tối ưu hóa trong chúng ta (và hầu hết các loài động vật) qua hàng trăm triệu năm tiến hóa. Khi bạn đưa tay về phía một vật thể, các cơ, gân và xương ở vai, khuỷu tay và cổ tay của bạn ngay lập tức thực hiện một chuỗi dài các hoạt động vật lý, kết hợp với mắt, cho phép bạn cử động  tay thẳng qua không gian ba chiều. Việc này có vẻ dễ dàng bởi vì bạn đã hoàn thiện phần mềm trong bộ não để làm điều đó. Đây cũng là lí do giải thích vì sao phần mềm độc hại không vượt qua được phần captcha nhận dạng chữ khi đăng ký tài khoản mới trên một trang web — còn bộ não của bạn cực kỳ ấn tượng vì làm được điều này.

Mặt khác, phép nhân những số lớn hoặc chơi cờ là những hoạt động mới đối với các chúng ta và ta chưa có thời gian để phát triển thành thạo chúng. Vì vậy, máy tính không cần phải làm việc quá nhiều để đánh bại chúng ta. Hãy nghĩ về điều đó — bạn muốn làm gì hơn - xây dựng một chương trình có thể nhân các con số siêu lớn hoặc tạo ra một chương trình có thể hiểu rõ bản chất của chữ B, đủ để nó nhận ra chữ B trong hàng nghìn phông chữ hoặc chữ viết tay bất kỳ.

Cùng xem một ví dụ hài hước nhé – Khi nhìn vào bức ảnh dưới, cả bạn và máy tính đều có thể nhận ra đó là một hình chữ nhật với 2 sắc thái riêng biệt nằm xen kẽ nhau. 

Chúng ta vẫn nghĩ vậy, cho đến khi bạn lấy đi phần màu đen và để lộ toàn bộ hình ảnh thì….

… chẳng có gì khó khăn để bạn mô tả nó là hình ảnh của các kiểu hình trụ, lát mỏng, góc 3-D mờ đục và trong suốt khác nhau. Nhưng máy tính sẽ không làm được điều này, nó sẽ thất bại thảm hại. Máy tính sẽ mô tả những gì nó nhìn thấy là một loạt các hình dạng 2-D với nhiều sắc thái khác nhau — chỉ vậy thôi. 

Nhìn vào bức ảnh dưới đây, bộ não của bạn sẽ diễn giải các ẩn ý mà bức tranh đang cố gắng khắc họa như sự pha trộn giữa các phần tối và hướng sáng của căn phòng. Trong khi bạn dễ dàng thấy nó thực sự là gì — một bức ảnh về một tảng đá 3-D màu đen. Nhưng máy tính sẽ chỉ thấy các mảng trắng, đen và xám 2-D. 

(NguồnL Matthew Lloyd)

Với tất cả những gì vừa được đề cập, chúng ta vẫn còn trong quá trình tiếp nhận những bất cập và xử lý chúng. Để trở nên thông minh như con người, máy tính sẽ phải hiểu những thứ như sự thay đổi tinh tế của nét mặt, sự khác biệt giữa hài lòng, nhẹ nhõm, mãn nguyện, vừa ý và vui mừng, và tại sao bộ phim Braveheart thì tuyệt vời nhưng bộ  The Patriot thì lại khủng khiếp. 

 Nghe nản ha.

Vậy làm cách nào để chúng ta đạt được điều đó?

Chìa khóa đầu tiên để tạo AGI: Tăng sức mạnh tính toán

Một điều chắc chắn cần cải thiện với AGI là tăng sức mạnh của phần cứng máy tính. Nếu một hệ thống AI có thể thông minh như bộ não, nó sẽ cần phải có năng lực tính toán thô ngang với bộ não.

Khả năng này thể hiện ở tổng số phép tính mỗi giây (calculations per second - cps) mà não có thể quản lý, và bạn có thể đạt đến con số này bằng cách tìm ra cps tối đa của từng cấu trúc trong não làm được và sau đó cộng tất cả chúng lại với nhau.

Ray Kurzweil đã nghĩ ra một cách ngắn gọn, ông lấy ước tính chuyên môn (professional estimate) của một người nào đó gán cho cps của một cấu trúc, và trọng lượng của cấu trúc này phải ngang với với trọng lượng của toàn bộ não. Sau đó nhân theo tỷ lệ để có được ước tính cho tổng số. Nghe có vẻ hơi kỳ lạ, nhưng ông ấy đã làm điều này rất nhiều lần với nhiều ước tính chuyên môn khác nhau về các khu vực khác nhau và tổng số luôn gần như nhau — khoảng 10mũ16, hoặc 10 triệu tỷ cps.

Hiện tại, siêu máy tính nhanh nhất thế giới, Tianhe-2 của Trung Quốc, đã thực sự vượt qua con số đó, đạt tốc độ khoảng 34 triệu tỷ cps. Nhưng Tianhe-2 cũng chẳng phải dạng vừa, nó chiếm đến 720 mét vuông, sử dụng công suất 24MW (bộ não chỉ chạy bằng 20W) và tốn 390 triệu USD để xây dựng. Vì vậy không thể áp dụng cho việc sử dụng rộng rãi, hoặc thậm chí không sử dụng được nhiều trong thương mại hoặc công nghiệp.

Kurzweil gợi ý rằng, chúng ta nên nghĩ về mức độ khả thi của máy tính bằng cách xem bạn có thể mua bao nhiêu cps với giá 1.000 đô la. Khi con số đó đạt đến cấp độ con người — 10 triệu tỷ cps — thì điều đó có nghĩa là AGI có thể xuất hiện đại trà trong cuộc sống chúng ta.

Định luật Moore là một quy tắc lịch sử đáng tin cậy, rằng sức mạnh tính toán tối đa của thế giới tăng gấp đôi khoảng hai năm một lần, có nghĩa là sự tiến bộ của phần cứng máy tính tăng lên theo cấp số nhân, giống như sự phát triển chung của con người trong lịch sử. Xem xét mức độ liên quan của điều này với chỉ số cps / 1.000 đô la của Kurzweil, chúng ta hiện đang ở khoảng 10 nghìn tỷ cps / 1.000 đô la, đúng với quỹ đạo dự đoán của biểu đồ này.

 

Vì vậy, những chiếc máy tính trị giá 1.000 đô la trên thế giới hiện đang đánh bại não chuột và chúng ở mức độ một phần nghìn của con người. Nghe thì có vẻ không nhiều, cho đến khi bạn nhớ ra chúng ta từng ở mức khoảng một phần nghìn tỷ con người vào năm 1985, một phần tỷ vào năm 1995 và một phần triệu vào năm 2005. Ở vị trí thứ một nghìn vào năm 2015 đưa chúng ta đi đúng tốc độ để đạt được mức giá cả phải chăng máy tính vào năm 2025 sánh ngang với sức mạnh của bộ não.

Về mặt phần cứng, nguồn năng lượng thô cần thiết cho AGI hiện có sẵn ở Trung Quốc và chúng ta đã sẵn sàng cho phần cứng AGI phổ biến với giá cả phải chăng trong vòng 10 năm tới. Nhưng chỉ riêng sức mạnh tính toán thô không làm cho một máy tính nói chung trở nên thông minh — câu hỏi tiếp theo là, làm thế nào để chúng có trí thông minh cấp độ con người?

Chìa khóa thứ hai để tạo AGI: Làm cho nó trở nên thông minh

Đây là một phần khó khăn. Sự thật là không ai thực sự biết làm cách nào cho nó thông minh. Chúng tôi vẫn đang tranh luận về cách làm thế nào để chiếc máy tính trở nên thông minh ở cấp độ con người. Làm thế nào để nó có khả năng nhận ra một con chó, một chữ B viết kỳ cục hay một bộ phim tầm thường. Nhưng vẫn có rất nhiều chiến lược khá xa vời đang được triển khai ngoài kia và đến một lúc nào đó, một trong số chúng sẽ làm được điều này. Dưới đây là ba chiến lược phổ biến nhất mà tôi đã xem qua:

1) "Sao chép" cách bộ não hoạt động

Điều các nhà khoa học đang làm cũng giống như hành động của những đứa trẻ học bình thường ngồi kế bên một học sinh xuất sắc. Trong lớp có một đứa trẻ rất thông minh, nó luôn làm rất tốt các bài kiểm tra. Mặc dù những đứa trẻ khác đã cố gắng học tập chăm chỉ, nhưng vẫn không thể làm tốt như vậy. Sau đó, chúng quyết định sao chép câu trả lời của đứa trẻ thông minh nhất đó. Điều này cũng hợp lý thôi. Chúng ta loay hoay bế tắc trong khi cố gắng tạo ra một chiếc máy tính siêu phức tạp, và tình cờ có một nguyên mẫu hoàn hảo cho một chiếc máy tính ngay trong đầu mỗi người.

Giới khoa học đang nỗ lực nghiên cứu kỹ thuật đảo ngược bộ não để tìm ra cách mà quá trình tiến hóa đã tạo ra một điều hoàn hảo như vậy — những ước tính lạc quan cho biết chúng ta có thể làm được điều này vào năm 2030. Khi làm được điều đó, chúng ta sẽ biết tất cả bí mật hoạt động mạnh mẽ và hiệu quả của bộ não. Từ đó, chúng ta có thể lấy cảm hứng và 'đánh cắp' những đổi mới của nó. Một ví dụ về cấu ​​trúc máy tính bắt chước bộ não là mạng nơ-ron nhân tạo. Nó bắt đầu như một mạng lưới các "nơ-ron" bóng bán dẫn, được kết nối với nhau bằng các đầu vào và đầu ra, và nó không biết gì cả - giống như một bộ não trẻ sơ sinh. Cách nó “học” là nó cố gắng thực hiện một nhiệm vụ, chẳng hạn như nhận dạng chữ viết tay, và lúc đầu, các hoạt động thần kinh của nó và những suy đoán tiếp sau đó khi giải mã từng chữ cái sẽ hoàn toàn ngẫu nhiên. Nhưng khi nó được thông báo rằng nó đã làm đúng, các kết nối bóng bán dẫn trong các đường dẫn truyền để tạo ra câu trả lời đó được củng cố lại. Khi nó được thông báo là sai, các kết nối của các đường dẫn đó bị suy yếu. Sau rất nhiều thử nghiệm và phản hồi này, tự thân mạng lưới đã hình thành các đường dẫn thần kinh thông minh và máy đã trở nên tối ưu hóa cho tác vụ. Bộ não học một chút giống như vậy nhưng theo một cách phức tạp hơn và khi tiếp tục nghiên cứu bộ não, chúng ta đang khám phá ra những cách thông minh mới để tận dụng hệ thống mạch thần kinh.

"Sao chép" não bộ ở mức độ cao nhất sẽ thành một chiến lược được gọi là "mô phỏng hoàn toàn bộ não". Theo đó, mục tiêu là 'cắt' một bộ não thực tế thành các lớp mỏng, quét từng lớp, sử dụng phần mềm để lắp ráp tái tạo lại thành một mô hình 3-D chính xác và sau đó triển khai mô hình đó trên một máy vi tính đủ mạnh. Thế là, chúng ta sẽ có một máy tính chính thức có khả năng xử lý mọi thứ mà bộ não có thể làm được — nó chỉ cần học và thu thập thông tin. Nếu các kỹ sư thực sự giỏi, họ sẽ có thể mô phỏng được một bộ não thực với độ chính xác đến mức còn nguyên vẹn cả bộ nhớ và nhân cách đầy đủ của bộ não gốc sau khi cấu trúc não bộ tải lên máy tính. Nếu bộ não thuộc về Jim ngay trước khi anh qua đời, máy tính sẽ thức dậy với tên Jim. Đây sẽ là một AGI mạnh mẽ ở cấp độ con người, và bây giờ chúng ta có thể làm việc để biến Jim thành một ASI thông minh không thể tưởng tượng được, đây có lẽ là điều khiến Jim thực sự thấy hứng thú. 

Chúng ta còn bao xa để đạt được khả năng mô phỏng hoàn toàn não bộ? Chắc có lẽ còn xa, vì cho đến nay, chúng ta vẫn chưa thể mô phỏng bộ não giun dẹp dài 1mm, chỉ bao gồm 302 tế bào thần kinh. Trong khi bộ não con người thì chứa 100 tỷ. Nếu điều này nhìn có vẻ vô vọng, thì hãy nhớ sức mạnh của sự tiến bộ theo cấp số nhân — bây giờ chúng ta đã chinh phục được bộ não của con sâu nhỏ bé, một con kiến, tiếp theo là một con chuột, thì tại sao lại không thể chinh phục bộ não con người trong tương lai?

2) Cố gắng khiến cho sự tiến hóa tạo được những gì nó đã làm trước đây nhưng lần này là cho chính chúng ta 

Nếu sao chép bài kiểm tra của một đứa trẻ thông minh quá khó, thì thay vì làm vậy chúng ta có thể cố gắng sao chép cách học của đứa trẻ thông minh đó. Chúng ta biết là, xây dựng một máy tính càng mạnh ngang ngửa bộ não càng tốt - sự tiến hóa của bộ não là bằng chứng. Và nếu bộ não quá phức tạp để mô phỏng, chúng ta có thể thay thế bằng cách mô phỏng sự tiến hóa. Sự thật là mô phỏng một bộ não cũng giống như chế tạo một chiếc máy bay bằng cách sao chép chuyển động vỗ cánh của một con chim. Mà thường thì máy móc được thiết kế tốt nhất bằng cách tiếp cận theo hướng máy móc, mới mẻ, chứ không phải bằng cách bắt chước chính xác về mặt sinh học.

Vậy làm thế nào chúng ta có thể mô phỏng sự tiến hóa để xây dựng AGI? Phương pháp được áp dụng là "thuật toán di truyền". Nó hoạt động như thế này: một quá trình hoạt động và đánh giá sẽ diễn ra lặp đi lặp lại (giống như cách các tạo vật sinh học "hoạt động" trong chính cuộc sống thực và được "đánh giá" bằng việc chúng có xoay sở để tái sản sinh được hay không). Một nhóm máy tính sẽ cố gắng thực hiện các tác vụ và những máy tính thành công nhất sẽ được lai tạo với nhau bằng cách kết hợp một nửa số chương trình của chúng với nhau thành một máy tính mới. Những máy tính kém thành công hơn sẽ bị loại bỏ. Qua nhiều lần lặp đi lặp lại, quá trình 'chọn lọc tự nhiên' này sẽ tạo ra những chiếc máy tính ngày càng tốt hơn. Thách thức sẽ là tạo ra một chu trình đánh giá và 'nhân giống' tự động để quá trình tiến hóa này có thể tự chạy.

Mặt trái của việc sao chép quá trình tiến hóa là bản thân tiến hóa mất một tỷ năm để thực hiện mọi thứ còn chúng ta thì chỉ muốn làm điều này trong vài thập kỷ tới.

Nhưng chúng ta có rất nhiều lợi thế so với tiến hóa tự nhiên. Đầu tiên, sự tiến hóa không có tầm nhìn xa và hoạt động ngẫu nhiên - nó tạo ra nhiều đột biến không có ích hơn là hữu ích. Nhưng chúng ta sẽ kiểm soát quá trình này, để nó chỉ được thúc đẩy bởi các biến dị có lợi và các biến đổi có mục tiêu. Thứ hai, sự tiến hóa không nhắm đến bất cứ mục tiêu gì, kể cả trí thông minh — đôi khi một môi trường thậm chí có thể chọn lọc những thứ theo hướng ngược lại với trí thông minh cao cấp hơn (vì nó sử dụng rất nhiều năng lượng). Mặt khác, chúng ta có thể định hướng cụ thể quá trình tiến hóa này theo hướng tăng trí thông minh. Thứ ba, để chọn lọc trí thông minh, sự tiến hóa phải đổi mới theo nhiều cách khác nhau để tạo điều kiện cho trí thông minh. Ví dụ như khi ta cải tiến cách pin tạo ra năng lượng thì chúng ta có thể loại bỏ những gánh nặng thừa và sử dụng những thứ như điện. Không còn nghi ngờ gì nữa, chúng ta sẽ tiến nhanh hơn rất nhiều so với quá trình tiến hóa — nhưng vẫn chưa rõ trong quá trình tiến hóa liệu chúng ta có thể phát triển đủ để biến đây trở thành một chiến lược khả thi hay không.

3) Biến toàn bộ vấn đề này thành vấn đề của máy tính, không phải của chúng ta.

Đây là lúc các nhà khoa học đã tuyệt vọng và chuyển sang hướng cố gắng lập trình thử nghiệm để máy tính tự thực hiện công cuộc tiến hóa của chính nó. Nhưng nó có thể là phương pháp hứa hẹn nhất mà chúng ta có. Ý tưởng là chúng ta sẽ xây dựng một máy tính có hai kỹ năng chính là nghiên cứu về AI và mã hóa các thay đổi của chính nó — cho phép nó không chỉ học hỏi mà còn tự cải thiện cấu trúc của mình. Chúng ta muốn dạy các máy tính trở thành nhà khoa học máy tính để chúng có thể tự khởi động sự phát triển của mình. Và đó sẽ là công việc chính của nó — tìm ra cách làm cho mình thông minh hơn. Tôi sẽ nói về điều này sau.

Tất cả sẽ xảy ra nhanh thôi. 

Những tiến bộ nhanh chóng trong phần cứng và thử nghiệm sáng tạo với phần mềm đang diễn ra đồng thời và AGI có thể đến với chúng ta một cách nhanh chóng và bất ngờ vì hai lý do chính:

1) Tốc độ tăng trưởng theo cấp số nhân rất dữ dội, giống như tốc độ của ốc sên có thể nhanh chóng tăng lên — ảnh động bên dưới minh họa khái niệm này một cách độc đáo:

Mất bao lâu thì máy tính có thể tiến hóa mạnh mẽ như bộ não con người?

Thể tích của hồ Michigan (tính bằng ounce chất lỏng) tương đương với dung lượng của bộ não (tính theo giây). Sức mạnh máy tính tăng gấp đôi sau mỗi 18 tháng. Với tốc độ đó, bạn thấy rất ít tiến bộ trong một thời gian - nhưng đột nhiên, một ngày đẹp trời bạn  hoàn thành nó.

2) Khi nói đến phần mềm, sự tiến bộ có thể chậm, nhưng đột nhiên có thể thay đổi tốc độ ngay lập tức (giống như trong thời gian con người nghĩ rằng vũ trụ vận hành theo thuyết địa tâm, và rất khó khăn để tính toán cách vũ trụ hoạt động. Nhưng sau đó, con người khám phá ra rằng vũ trụ vận hành theo thuyết nhật tâm, lúc này mọi thứ trở nên dễ dàng hơn nhiều). Hoặc, khi nói đến một thứ gì đó như máy tính tự tiến hóa được, chúng ta nghe như điều gì đó có vẻ viển vông xa vời nhưng thực ra chỉ cần một biến đổi của hệ thống là có thể khiến nó trở nên hiệu quả hơn gấp 1.000 lần và nhảy vọt lên đến cấp độ trí thông minh con người.

Con đường từ AGI đến ASI

Vào một lúc nào đó, chúng ta sẽ tạo được AGI — máy tính có trí thông minh cơ bản như con người. Nghe có vẻ như con người và máy tính sẽ sống bình đẳng với nhau.

Nhưng thực ra là không phải như vậy.

Vấn đề là, AGI với mức độ thông minh và khả năng tính toán giống hệt con người sẽ vẫn có những lợi thế đáng kể hơn so với con người. Chẳng hạn như:

Phần cứng:

• Tốc độ. Tế bào thần kinh của não đạt cực đại ở khoảng 200 Hz, trong khi bộ vi xử lý ngày nay (chậm hơn nhiều so với khi chúng ta chạm đến mức độ AGI) chạy ở tốc độ 2 GHz hoặc nhanh hơn 10 triệu lần so với tế bào thần kinh của chúng ta. Và thông tin liên lạc bên trong của não, có thể di chuyển với tốc độ khoảng 120 m/s, chẳng bì kịp so với khả năng giao tiếp quang học của máy tính với tốc độ ánh sáng.

• Kích thước và lưu trữ. Bộ não bị khóa chặt vào kích thước của hình dạng hộp sọ và nó cũng không thể lớn hơn được nữa, hoặc tốc độ truyền thông tin nội bộ là 120 m/s sẽ mất quá nhiều thời gian để truyền thông tin từ cấu trúc não này sang cấu trúc não khác. Máy tính có thể mở rộng đến bất kỳ kích thước vật lý nào, cho phép nhiều phần cứng hoạt động hơn, bộ nhớ làm việc (RAM) lớn hơn nhiều và bộ nhớ dài hạn (ổ cứng lưu trữ) có cả dung lượng và độ chính xác cao hơn nhiều so với bộ nhớ của chúng ta.

• Độ tin cậy và độ bền. Đây không chỉ nói về bộ nhớ của một chiếc máy tính sẽ chính xác hơn. Các bóng bán dẫn của máy tính chính xác hơn các tế bào thần kinh      sinh học và chúng ít có khả năng bị hư hỏng hơn (và có thể sửa chữa hoặc thay thế nếu chúng bị hỏng). Bộ não con người cũng dễ mệt mỏi, trong khi máy tính có thể chạy không ngừng, ở hiệu suất cao nhất trong suốt 24/7.

Phần mềm:

• Khả năng chỉnh sửa, khả năng nâng cấp và khả năng mở rộng phạm vi nhiều hơn. Không giống như bộ não con người, phần mềm máy tính có thể nhận các bản cập nhật và chỉnh sửa có thể dễ dàng thử nghiệm. Các nâng cấp cũng có thể mở rộng đến các lĩnh vực mà bộ não của con người còn yếu. 'Phần mềm hình ảnh thị giác' của con người là tiên tiến vượt trội, trong khi khả năng kỹ thuật phức tạp của nó khá thấp. Máy tính có thể tương tự với con người về khía cạnh 'phần mềm hình ảnh' nhưng cũng có thể trở nên tối ưu hóa trong kỹ thuật và bất kỳ lĩnh vực nào khác.

• Năng lực tập thể. Con người đè bẹp tất cả các loài khác trong việc xây dựng một trí tuệ tập thể rộng lớn. Bắt đầu với sự phát triển của ngôn ngữ và sự hình thành của các cộng đồng lớn, đông đúc hơn, tiến bộ thông qua các phát minh về chữ viết và in ấn. Và bây giờ được tăng cường nhờ các công cụ như internet, trí tuệ tập thể của nhân loại là một trong những lý do chính khiến chúng ta có thể tiến bộ được như hiện nay, vượt xa tất cả các loài khác. Và máy tính sẽ làm tốt hơn chúng ta. Một mạng lưới AI trên toàn thế giới chạy một chương trình cụ thể có thể thường xuyên đồng bộ hóa. Bất kỳ thứ gì mà một chiếc máy tính bất kỳ học được sẽ được tải ngay lên tất cả các máy tính khác. Nhóm cũng có thể đảm nhận một mục tiêu như một đơn vị, bởi vì sẽ không nhất thiết phải có những ý kiến, động cơ bất đồng và tư lợi, giống như chúng ta có trong cộng đồng con người.

AI có khả năng trở thành AGI bằng cách được lập trình để tự cải thiện. AI không coi “trí thông minh cấp độ con người” là một cột mốc quan trọng, nó chỉ là điểm đánh dấu tham chiếu theo quan điểm của chúng ta — và sẽ không có bất kỳ lý do gì để "dừng lại" ở cấp độ này. Thêm nữa, cùng với những lợi thế vượt trội hơn chúng ta thì ngay cả AGI có trí tuệ tương đương con người cũng hiển nhiên đánh bại trí thông minh của con người trong tích tắc trước khi chạy đua tới lĩnh vực trí tuệ vượt trội con người.

Điều này có thể gây sốc cho chúng ta khi nó xảy ra. Lý do là theo quan điểm của chúng ta thì: A) trong khi trí thông minh của các loại động vật khác nhau, đặc điểm chính mà chúng ta biết về trí thông minh của bất kỳ loài động vật nào là nó thấp hơn nhiều so với chúng ta, và B) chúng ta cho rằng những người thông tuệ nhất thông minh hơn những người ngu ngốc nhất rất rất nhiều. Kiểu như thế này:

Vì vậy, khi AI nâng cấp trí thông minh lên tầm mức của con người, chúng ta sẽ thấy nó đơn giản là trở nên thông minh hơn so với một loài động vật. Sau đó, khi nó chạm đến khả năng thấp nhất của nhân loại — Nick Bostrom sử dụng thuật ngữ “thằng ngốc trong làng” — chúng ta sẽ phản ứng kiểu như sẽ thốt lên “Ồ, nó trông như thể một kẻ ngờ nghệch. Dễ thương ghê!". Điều duy nhất là, trong phạm vi rộng lớn của trí thông minh, tất cả con người từ thằng ngốc trong làng đến Einstein đều dao động trong một phạm vi rất nhỏ. Vì vậy chỉ sau khi đạt đến cấp độ thằng ngốc của làng và rồi được tuyên bố là AGI, nó sẽ đột nhiên thông minh hơn Einstein và chúng ta sẽ thấy choáng váng không biết điều gì đã xảy ra:

Và điều gì xảy ra… sau đó?

Một sự bùng nổ trí tuệ xảy ra

Tôi hy vọng bạn thấy bình thường với điều này. Bởi vì đây là lúc chủ đề này trở nên bất thường và đáng sợ, và nó sẽ tiếp tục như vậy kể từ đây về sau. Tôi muốn tạm dừng ở đây để nhắc bạn rằng mọi điều tôi sắp nói đều là thực - khoa học thực và những dự báo thực tế về tương lai từ một loạt các nhà tư tưởng và nhà khoa học được kính trọng nhất. Hãy luôn ghi nhớ điều đó.

Dù sao, như tôi đã nói ở trên, hầu hết các mô hình hiện tại để đạt được AGI đều liên quan đến việc AI phát triển lên được bằng cách tự cải thiện. Và một khi nó trở thành AGI, ngay cả những hệ thống được hình thành và phát triển thông qua các phương pháp không liên quan đến việc tự cải thiện thì giờ đây sẽ đủ thông minh để bắt đầu tự cải thiện nếu chúng muốn.

Và đây là nơi chúng ta đi đến một khái niệm mạnh mẽ: tự cải thiện không ngừng (recursive self-improvement). Nó hoạt động như thế này. Một hệ thống AI ở một cấp độ nhất định — giả sử như một kẻ ngốc sống trong một ngôi làng — được lập trình với mục tiêu cải thiện trí thông minh của chính nó. Một khi đã làm được điều đó, nó sẽ thông minh hơn — có thể tại thời điểm này, nó đã ở cấp độ Einstein. Vì vậy, bây giờ khi nó hoạt động để cải thiện trí thông minh của mình, với trí tuệ cấp độ Einstein, nó ở vị thế thuận lợi hơn và có thể đạt được những bước tiến lớn hơn. Những bước nhảy vọt này làm cho nó thông minh hơn nhiều so với bất kỳ con người nào, cho phép nó tạo ra những bước nhảy vọt lớn hơn nữa. Khi các bước nhảy vọt lớn hơn và diễn ra nhanh hơn, AGI tăng vọt về trí thông minh và sớm đạt đến cấp độ siêu thông minh của một hệ thống ASI. Đây được gọi là Sự bùng nổ Trí thông minh, và nó là ví dụ tuyệt vời cho Định luật hồi quy tăng tốc (The Law of Accelerating Returns).

Có một số cuộc tranh luận về việc AI sẽ sớm đạt được trí thông minh cấp độ con người. Trong một cuộc khảo sát với hàng trăm nhà khoa học về thời điểm con người tạo ra được AGI, họ tin rằng chúng ta có nhiều khả năng không  làm được như thế cho đến năm 2040 — tức là chỉ còn 20 năm nữa (so với năm 2020 hiện tại). Điều này nghe có vẻ không to tát cho đến khi bạn xem xét các nhà tư tưởng trong lĩnh vực này cho rằng, có khả năng quá trình phát triển từ AGI sang ASI diễn ra rất nhanh. Kiểu như kịch bản sẽ diễn ra thế này:

Phải mất hàng thập kỷ để hệ thống AI đầu tiên đạt đến trí thông minh chung cấp thấp (low-level general intelligence), nhưng cuối cùng việc này đã xảy ra. Một máy tính có thể hiểu thế giới xung quanh nó ở mức đủ tốt như một đứa trẻ bốn tuổi. Đột nhiên, trong vòng một giờ sau khi đạt được cột mốc đó, hệ thống đưa ra được lý thuyết vật lý toàn điện thống nhất giữa thuyết tương đối rộng và cơ học lượng tử, điều mà chưa con người nào có thể làm được. 90 phút sau đó, AI đã trở thành một ASI, thông minh gấp 170.000 lần con người.

Siêu trí tuệ ở mức độ đó không phải là thứ mà chúng ta còn xa mới có thể nắm bắt được, còn hơn cả ẩn dụ về trí tuệ của một con ong vò vẽ đang cố xoắn não để hiểu thông Kinh tế học Keynes. Trong thế giới của chúng ta, thông minh có nghĩa là chỉ số IQ 130 và ngu ngốc có nghĩa là chỉ số IQ 85 — chúng ta không có từ nào miêu tả về chỉ số IQ 12,952.

Sự thống trị hoàn toàn của con người trên Trái đất cho thấy một quy luật rõ ràng: trí tuệ tạo nên sức mạnh. Điều này có nghĩa là khi ASI được tạo ra, nó sẽ là sinh vật mạnh nhất trong lịch sử sự sống trên Trái đất. Và tất cả các sinh vật sống, bao gồm cả con người, sẽ hoàn toàn sống theo ý của nó — và điều này có thể xảy ra trong vài thập kỷ tới.

Nếu chúng ta có thể phát minh ra wifi, thì thứ gì đó thông minh hơn chúng ta 100 hoặc 1.000 hoặc 1 tỷ lần sẽ hoàn toàn có thể kiểm soát vị trí của từng nguyên tử trên thế giới theo bất kỳ cách nào nó thích, vào bất cứ lúc nào. Hãy xem điều mà ASI làm được hiển nhiên dễ dàng như việc bật công tắc đèn, mọi thứ sẽ xảy ra như một phép thuật, giống như sức mạnh mà chúng ta tưởng tượng về một vị thần. Tạo ra công nghệ để đảo ngược quá trình lão hóa của con người, chữa khỏi bệnh tật và đói kém và thậm chí là tử vong, lập trình lại thời tiết để bảo vệ tương lai của sự sống trên Trái đất - tất cả đều có thể thực hiện được. Cũng có thể là sự kết thúc ngay lập tức của tất cả sự sống trên Trái đất. Theo như những gì chúng ta quan tâm, nếu ASI xuất hiện, thì giờ đây chúng ta có một vị Thần toàn năng trên Trái đất — và câu hỏi quan trọng đối với chúng ta là:

Đó sẽ là một vị Thần tuyệt vời chứ?