Não bộ có hoạt động như một cái máy tính? Khả năng mang lại cho thế giới chung quanh chúng ta một ý nghĩa liệu có đột khởi xuất hiện ở những robot có trí tuệ nhân tạo hay không? Việc con người có thể tự đặt cho mình câu hỏi về chính bản chất của ý thức có chỉ ra sự tồn tại của một ý thức tách rời các cơ chế sinh lý hay không?

Trịnh Xuân Thuận: Bây giờ, chúng ta hãy đề cập tới chính bản chất của ý thức. Như đã biết, một số nhà sinh học khẳng định rằng chỉ cần sự tổ chức của vật chất trở nên phức tạp hơn là có thể đột khởi xuất hiện ý thức, tư duy, tình yêu và tất cả các dạng cảm xúc khiến cho cuộc sống trở nên đáng sống. Theo họ, không có gì ngăn cản được sự xuất hiện tự nhiên và tự phát của ý thức khi mà quá trình tiến hóa cho phép vượt qua một ngưỡng nhất định của tính tổ chức và độ phức tạp. Não bộ chẳng qua chỉ là một cỗ máy biết tơ duy, một tổng số các yếu tố cấu thành tạo nên một loại xã hội thần kinh. Các mối quan hệ bên trong xã hội này tạo thành cái mà người ta thống nhất gọi là "tinh thần" (esprit). Cách tiếp cận gọi là "máy tính hóa" này đã bị nhiều nhà nghiên cứu khác, như Francisco Varela chẳng hạn, phê phán vì nó không tính đến đầy đủ sự tương tác của não với thế giới bên ngoài. Theo ông, sự tương tác thường xuyên với một môi trường cụ thể đóng vai trò cực kỳ quan trọng, và tinh thần tương ứng với trải nghiệm có được từ sự tương tác này theo một quá trình nhân quả tương hỗ. Trải nghiệm đó cho phép xuất hiện cái gọi là "ý nghĩa của thế giới". 

Trong mô hình máy tính hóa của ý thức này người ta so sánh hệ thần kinh với phần cứng và tinh thần với phần mềm của máy tính. Hệ thần kinh được dùng làm giá đỡ vật chất cho ý thức tựa các mạch điện tử của máy tính cung cấp một giá đỡ vật chất cho phần mềm điều khiển hành trạng của máy tính. Chấp nhận quan niệm quy giản thuần túy này về ý thức chẳng khác nào nói rằng nếu các cỗ máy trở nên đủ phức tạp thì một ngày do đó chúng cũng sẽ có khả năng tư duy và cảm giác. Một số nhà nghiên cứu trong lĩnh vực trí tuệ nhân tạo cho rằng, về lý thuyết mà nói, thì một ngày nào đó, con người sẽ có thể chế tạo các máy vi tính robot có trái tim, biết cảm nhận tình yêu và sự căm ghét, nỗi buồn và tình thương. Không gì có thể ngăn cản chúng sáng tạo, viết Chiến tranh và Hòa bình hoặc sáng tác bản Giao hưởng số 9.

Matthieu: Trong trường hợp máy tính chỉ thực hiện các phép tính, thì độ phức tạp ngày càng lớn của máy vi tính và khả năng bắt chước ý thức của nó ngày càng chính xác hơn, thì về bản chất ý thức cũng không làm thay đổi gì lớn đối với bản chất của nó: một cỗ máy như thế mãi mãi cũng chỉ có thể xử lý các thông tin chẳng có ý nghĩa gì đối với nó. Nguyên do của điều này rất đơn giản: chiếc máy không có ý thức. Sự cảm nhận một ý nghĩa của thế giới và khả năng suy tư về ý nghĩa đó trên thực tế là một trong những đặc trưng của ý thức. Ngay cả khi máy tính được lập trình một cách thông minh để "sáng tạo" ra một bản giao hưởng mới, thì chẳng qua nó cũng chỉ thực hiện được điều đó xuất phát từ các quy tắc hòa âm được lựa chọn theo gu thẩm mỹ của những người lập trình. Máy tính không những hoàn toàn mù tịt về vẻ đẹp của âm nhạc mà nó còn không biết rằng đó là âm nhạc: Nó thực hiện các phép tính, nhưng không biết phép tính là gì. Nói tóm lại, sự khác biệt giữa máy và người là rất lớn. 

Trịnh Xuân Thuận: Năm 1997, báo chí đã rộ lên xung quanh sự thất bại của vua cờ thế giới Gari Kasparov trước siêu máy tính "Deep Blue". Một số nhà báo đã tin rằng đó là một thất bại của con người. Trên thực tế, Deep Blue đã chiến thắng Kasparov nhờ khả năng làm được hơn 200 triệu phép tính mỗi giây, điều này cho phép nó xem xét được tất cả các tổ hợp khả dĩ để tìm ra giải pháp cho ít nhất 10 nước tiếp sau. Một người chơi cờ chỉ có thể đoán trước được vài nước đi, và chủ yếu là dựa trên trực giác được gọt giũa qua ký ức về các ván cờ trước và kinh nghiệm đã tích lũy được, cho phép anh ta tránh các nước đi hớ. Như vậy, đơn giản là khả năng tính toán tuyệt vời đã làm cho Deep Blue chiến thắng Kasparov. Deep Blue không hề biết rằng nó đang chơi cờ vua, cũng như một chiếc máy bay không hề biết mình đang bay đến New York, và Deep Blue cũng không hề quan tâm đến việc thắng hay bại. Nó chỉ biết tuân theo một cách mù quáng các lệnh mà một nhóm các nhà tin học đã lập trình trong các mạch điện tử. ý chí giành chiến thắng, nỗi lo âu, sự căng thẳng, nỗi tiếc nuối vì đã đi sai một nước cờ hay niềm vui vì đã tìm ra nước chiếu hết: tất cả những trạng thái này hoàn toàn xa lạ với Deep Blue. Vả lại, cũng có thể chính vì Kasparov đã trải qua tất cả những xúc cảm rất con người này mà ông đã thua chăng?

Matthieu: Chưa cần phải nói đến Deep Blue, một chiếc máy tính bỏ túi thôi cũng đánh bại chúng ta hoàn toàn trong việc thực hiện phép nhân các con số có 3 chữ số? Tất cả những điều này không có liên quan gì đến ý thức cả. Chúng ta lo ngại về các máy tính, nhưng chúng thì chẳng hề lo ngại gì về chúng ta và rất ít khả năng là một ngày nào đó chúng sẽ tự hỏi liệu con người có ý thức hay không. 

Trịnh Xuân Thuận: Chừng nào máy tính vẫn chỉ là những mạch điện phức tạp trong đó chạy các dòng điện tuân theo các chương trình, thì chừng đó chúng vẫn chỉ là những cỗ máy không thể tư duy, không có cảm giác, yêu thương hay ghét bỏ. Chúng vẫn chỉ bó hẹp trong việc xử lý một cách mù quáng các dãy số 1 và 0. Trên thực tế, máy tính chẳng qua cũng chỉ là một dạng bàn tính cổ xưa hiện vẫn được người Trung Quốc và Iran sử dụng, chỉ có điều nó cực kỳ phức tạp hơn mà thôi. Trong bàn tính này, số 1 được biểu diễn bằng các hạt xâu qua các thanh kim loại, trong khi các số 0 là các khoảng trống. Thay vì các linh kiện điện tử, ngón tay người chuyển dịch các hạt tính và tạo ra các khoảng trống giữa các hạt theo các quy tắc xác định. Máy tính tính toán nhanh hơn bàn tính rất nhiều, nhưng không vì thế mà nó có ý thức hơn bàn tính. Cho rằng nó có ý thức cũng chẳng khác nào nói rằng các hạt của bàn tính có ý thức về phép cộng mà nó thực hiện. 

Matthieu: Tuy nhiên, hầu hết các nhà sinh học neuron đều chống lại việc chấp nhận một hình ảnh quá giản lược như vậy. Theo họ, não, mà khả năng lĩnh hội là gần như vô hạn, không hoạt động bằng cách sử dụng một ngôn ngữ nhị phân như máy tính mà theo một cách tương tác phức tạp hơn nhiều. Để đối lập với quan điểm "máy tính hóa", các nhà sinh học neuron này đã đưa ra một quan điểm động. Theo đó, sự phụ thuộc lẫn nhau và sự tương tác của các thành phần sinh học của não làm xuất hiện các trạng thái tổng thể có thể được đồng nhất với ý thức. 

Trịnh Xuân Thuận: Đúng là sự giống nhau giữa não người và máy tính dựa trên một hình ảnh rất hời hợt về bộ não cho rằng não tiếp nhận những thông tin về thế giới bên ngoài thông qua 5 giác quan, giống như một máy vi tính tiếp nhận các lệnh của một chương trình đã mã hóa những lệnh đó, xử lý chúng và trả lời theo kết quả của các phép tính và sự phân tích của nó đối với các mã và ký hiệu đó. Nếu nhìn sâu hơn, người ta sẽ thấy có những khác biệt về tầm cỡ. Bộ nhớ của não không hề giống với bộ nhớ của máy tính. Bộ nhớ của máy tính lưu trữ thông tin được biểu diễn bằng các dãy số 1 và 0, số 1 tương ứng với sự xuất hiện của các xung điện và số 0 tương ứng với sự ngắt các xung điện đó. Đây là cái mà người ta gọi là ngôn ngữ nhị phân. Nhưng chưa ai từng chứng tỏ được rằng các neuron trong não hoạt động theo cách nhị phân và lưu trữ thông tin nhờ các vị trí mở (tương ứng với 1) và đóng (tương ứng với 0) Hơn nữa, máy tính có một bộ nhớ tự lập với các "đầu vào" và "đầu ra" độc lập, trong khi đó trong não, vùng ghi nhớ cũng chính là vùng tư duy. 
Còn có những khác biệt quan trọng khác: não là một hệ thống tự lập trình trong khi máy tính có một chương trình được lập bởi một trí tuệ bên ngoài, và chính trí tuệ này quyết định hành trạng của máy tính. Một khi đã được xác lập, hệ thống dây dẫn nối trong máy tính sẽ không thay đổi nữa. Chỉ cần một dây bị đứt hoặc một transitor ngừng hoạt động là máy sẽ bị hỏng. Trái lại, mạng neuron tạo thành não bộ có thể tái sinh và có khả năng thích ứng cao. Nó phát triển liên tục trong suốt cuộc đời, và phát triển rất nhanh vào thời thơ ấu. Các tế bào này sinh ra, các tế bào khác chết đi; các kết nối này được thiết lập, các kết nối kia mất đi. Não để cho các kết nối không được sử dụng tới tự tiêu vong: nghĩa là ở đây ta thấy có một loại chọn lọc tự nhiên ở cấp độ các neuron.

Tốc độ truyền thông tin cũng rất khác nhau. Trong não, luồng thần kinh truyền với vận tốc tối đa là 100 m/s, trong khi đó trong máy tính, thông tin được truyền đi với vận tốc nhiều nghìn km/s. 
Đây cũng chính là nguyên nhân khiến cho máy tính thực hiện một số nhiệm vụ nhanh hơn chúng ta rất nhiều, ví dụ như xử lý các con số. Ngược lại, não người lại mạnh hơn ở chức năng tổng hợp, như nhận dạng khuôn mặt, chẳng hạn. 

Một nhà sinh học neuron ủng hộ luận điểm "con người neuron", theo cách gọi của nhà sinh học neuron Jean Piene Changeux, chắc hẳn có thể sẽ bác lại rằng sở dĩ các máy tính hiện nay chưa có ý thức chẳng qua là bởi vì người ta vẫn chưa biết chế tạo các máy tính phức tạp như hệ thần kinh của chúng ta mà thôi. Có thể một ngày nào đó chúng ta sẽ chế tạo ra các máy vi tính biết yêu, biết cảm nhận niềm vui và nỗi buồn. Vả lại, xét cho cùng, não người là sản phẩm của hơn một tỷ năm tiến hóa, trong khi đó, lịch sử của máy tính mới chỉ bắt đầu từ hơn 50 năm nay. 

Vào những năm 1950, nhà toán học người Anh, Alan Turing, đã đưa ra một phép trắc nghiệm đơn giản để xác định trí tuệ của một chiếc máy tính. Hãy giả định rằng, ông nói, ta đối thoại với hai kẻ giấu mặt, một là người thật và một là máy tính. Nếu trong cuộc nói chuyện, người ta không thể phân biệt được đâu là người đâu là máy thì phải khẳng định rằng máy tính cũng thông minh như con người. Nhưng, vào năm 1980, triết gia người Mỹ Tohn Searle đã không thừa nhận ý nghĩa của trắc nghiệm Turing. Searle đã đưa ra thí nghiệm tưởng tượng có tên là thí nghiệm "căn phòng Trung Hoa": thay vì để cho máy tính trả lời các câu hỏi của con người, chính tôi ở trong một phòng kín và người ta nhét qua khe hở của bức tường một số câu hỏi được viết bằng chữ tượng hình Trung Hoa mà tôi phải trả lời mặc dù tôi không hiểu gì về ngôn ngữ này. Để làm được điều đó tôi có một danh sách các đáp án đã làm sẵn và một bản hướng dẫn sử dụng giúp tôi kết hợp các đáp án với mỗi câu hỏi. Tôi chuyển câu trả lời qua khe hở cho người hỏi là người hiểu tiếng Trung Quốc. Toàn bộ cuộc chuyện trò có thể diễn ra như thế. Tuy nhiên, ngay cả khi các câu trả lời của tôi là đúng, thì dĩ nhiên tôi cũng không thể khẳng định rằng tôi hiểu tiếng Trung Quốc, cũng không thể khẳng định tôi đã tư duy các câu trả lời của tôi như người biết tiếng Trung Quốc tư duy. Tôi chỉ tuân theo bảng hướng dẫn, giống như một máy tính tuân theo một cách máy móc các lệnh được lập trình. Kết luận là: một máy tính, mặc dù có thể đưa ra các câu trả lời giống như con người miễn là nó được lập trình một cách thích hợp, nhưng vẫn không biết tư duy. Mặc dù cuộc tranh luận giữa Searle và những người ủng hộ Turing để chứng tỏ trí tuệ nhân tạo của các máy tính vẫn chưa khép lại, nhưng về phần mình tôi nghĩ là các lập luận của Searle khá thuyết phục. Turing dự báo rằng vào khoảng năm 2000, máy tính sẽ có thể đánh lừa người đặt câu hỏi trong vòng 5 phút đối thoại. ông đã quá lạc quan và chúng ta còn lâu mới có thể chế tạo được các máy tính có thể thực hiện một cuộc nói chuyện như con người, nhất là khi chúng ta yêu cầu chúng suy tư về chính bản thân chúng.

Matthieu: Nếu anh đặt cho một người nào đó một câu hỏi bất ngờ khác với các nguyên tắc nền tảng trong cách sống và tư duy của anh ta, thì anh ta sẽ không đưa ra câu trả lời phi lý và không ăn nhập, trong khi điều này lại thường xảy ra khi máy tính không tìm thấy câu trả lời phù hợp trong chương trình của nó. Con người có ý thức suy nghĩ một cách sâu sắc, theo cách có thể tìm ra một cách nhìn nhận mới về tồn tại. Đối với một máy tính, từ "tồn tại" chẳng là gì khác định nghĩa của từ điển được cài đặt vào bộ nhớ của nó.

Trịnh Xuân Thuận: Máy tính có thể đọc một văn bản, hiểu các lệnh âm thanh, dịch rất sát một ngôn ngữ này sang một ngôn ngữ khác, hoặc giải quyết được nhiều vấn đề tính toán thách thức nhiều thế hệ các nhà toán học. Mặc dù vậy, khả năng tri giác của máy tính vẫn còn rất hạn chế. Các máy thông minh không "nhìn thấy" rõ và khó nhận ra người đối thoại với mình, chúng chỉ hiểu được vài nghìn từ - nhưng phải nói thật chậm rãi và tách bạch từng từ một và chúng có trả lời cũng còn rất lúng túng! 

Matthieu: Đó mới chỉ là những vấn đề kỹ thuật mà rồi cuối cùng người ta cũng sẽ khắc phục được. Nhưng còn có những khác biệt về chất quan trọng hơn rất nhiều. Nếu người ta quy giản ý thức về hoạt động của các neuron và quy sự hoạt động của các neuron về tính chất của các nguyên tử cấu thành nên chúng, thì những khác biệt giữa một máy tính bằng xương bằng thịt và một máy tính bằng sắt thép không còn là khác nhau một cách cơ bản nữa. Một máy tính bằng kim loại không ý thức được sự tồn tại của nó chẳng hơn gì một túi đinh ốc. Vậy thì làm thế nào giải thích được việc trong đầu óc chúng ta xuất hiện câu hỏi: "Bản chất trí tuệ của mình là gì? Mình là ai? ý nghĩa của tồn tại là gì? Cái gì sẽ xảy đến với mình sau khi chết?" Một hệ thống trí tuệ nhân tạo không có bất kỳ lý do gì để tự vấn về bản chất của chính mình, cũng như không thể dành hàng giờ để làm sáng tỏ bản chất của trí tuệ, như là những người suy niệm vẫn làm. Một máy tính không hề băn khoăn về cái sẽ xảy đến với nó khi người ta ngắt điện. 
Một số hệ thống trí tuệ nhân tạo có khả năng học hỏi và tự tổ chức, nhưng tại sao chúng lại phải lo lắng về cái gì sẽ xảy đến với chúng trong tương lai hay chúng lại phải bằng lòng với sự hoạt động trơn tru hiện nay của mình? Trả lời câu hỏi này của tôi, Francisco Varela nói: "Vì cùng những lý do mà con người đã làm." Vậy thì sự đột khởi xuất hiện cảm giác bắt nguồn từ đâu? 

Trịnh Xuân Thuận: Theo ông ta, khi sự tổ chức của các neuron trong não vượt qua một ngưỡng nào đó của độ phức tạp, thì cảm giác về thế giới có thể sẽ đột khởi xuất hiện. Chính định nghĩa của nguyên lý đột khởi xuất hiện nói rằng nó bộc lộ những phẩm chất khác và cao hơn là tổng số đơn thuần của các bộ phận cấu thành. Theo Varela, sự xuất hiện của cảm giác chỉ có thể khi cơ thể được sống trong một môi trường cụ thể với một cấu hình đã cho, nghĩa là trong các điều kiện sinh thái rất xác định: "Não bộ tồn tại trong cơ thể, cơ thể tồn tại trong thế giới và cơ thể chuyển động, hành động, tái tạo giống nòi, mơ ước, tưởng tượng. Và chính từ hoạt động thường xuyên này mà cảm giác về thế giới và về vạn vật xuất hiện". Cảm giác về thế giới chắc cũng có thể xuất hiện từ các hệ robot nếu chúng có khả năng học hỏi trong môi trường của chúng theo cách giống với sự đột khởi xuất hiện của cảm giác trong quá trình tiến hóa của các cơ thể sống. Đó là giả thuyết của Rodney Brooks ở Viện Công nghệ Massachusssets (MIT) và nhiều nhà nghiên cứu khác quan tâm đến trí tuệ nhân tạo.

Theo Brooks và nhóm nghiên cứu của ông, nếu người ta chế tạo thành công một cỗ máy không hề biết gì về môi trường của nó nhưng lại có một chu trình chức năng cảm giác-vận động hữu hiệu, thì nó sẽ đi dạo khắp nơi, giống như một con kiến khám phá môi trường của nó, đi vào phòng bên cạnh, dạo chơi quanh vườn, biết tránh vấp phải gốc cây và khỏi rơi xuống hồ và dần dần chu trình phản ứng/hành động trở nên hiệu quả đến mức cỗ máy có thể tự xoay trở trong bất cứ môi trường nào. Nói cách khác, mặc dù lúc đầu cỗ máy chưa hề có một hình dung trước nào về thế giới, nhưng hình dung này sẽ xuất hiện dần dần trong quá trình máy hoạt động.
Não bộ xuất hiện ở các cơ thể sống để cho chu trình phản ứng/hành động này với môi trường trở nên dễ dàng hơn. Chính vì vậy, hệ thần kinh không xuất hiện ở cây cối, dù là nấm hay vi khuẩn, mà là ở động vật, vì để tự nuôi sống mình, động vật có nhu cầu săn đuổi con mồi (thực vật cũng cử động để đón ánh nắng hoặc bắt mồi, nhưng đó là những cử động vô ý thức, và theo đạo Phật thì thực vật cũng không có ý thức). Vì thế chúng phải có một chu trình tri giác/hành động nối các giác quan với các cơ bắp, và chính những mối liên kết này đã tạo ra bộ não.

Matthieu: Chúng ta hãy tiếp tục nói về các cơ chế. Ví dụ về căn phòng Trung Hoa chứng tỏ rằng các cơ chế không có ý thức có thể bắt chước ý thức. 

Trịnh Xuân Thuận: Khả năng trừu tượng hóa và tư duy suy ngẫm xuất hiện muộn hơn nhiều. Quá trình tiến hóa của hệ thần kinh đã trải qua 1 tỷ rưởi năm, và trong vòng ba phần tư đầu tiên của khoảng thời gian này, các động vật chỉ có thể thực hiện các chức năng sinh tồn sơ đẳng nhất, đó là chạy, săn mồi, ăn uống, v.v... Chỉ cách đây khoảng 1 triệu năm thì ngôn ngữ và trí tuệ biểu tượng, cũng như các khả năng tương tác xã hội mới xuất hiện ở các loài linh trưởng. Theo Varela, "sự xuất hiện của trí tuệ không phải là một bước nhảy có tính chất tai biến, mà là sự nối tiếp cần thiết của hóa thân trong quá trình tiến hóa." 

Nếu tiến hóa sinh học là nguyên nhân dẫn đến sự xuất hiện của ý thức ở con người, thì người ta có thể tự hỏi liệu các robot vốn không tiến hóa trong một thể nền sinh học một ngày nào đó có thể đạt được những khả năng trừu tượng hóa hay không. Các nhà nghiên cứu trí tuệ nhân tạo vận dụng hai phương pháp để trả lời cho câu hỏi này. Phương pháp thứ nhất là tạo ra một bối cảnh tiến hóa nhân tạo: cụ thể là chế tạo hàng nghìn động vật-robot nhỏ hơi khác nhau. Sau đó thả chúng vào trong thiên nhiên và lựa chọn những con có khả năng kháng cự tốt nhất. Trong phương pháp thứ hai (được Brooks áp dụng), người ta thực hiện công việc tiến hóa bằng cách tạo cho các robot các khả năng hoạt động giống với khả năng của não người, như ghi nhớ hay nhận dạng các nét mặt, hoặc cả các khả năng tương tác xã hội. 

Matthieu: Tất cả những điều này vẫn không chỉ ra sự hiện diện của ý thức. 

Trịnh Xuân Thuận: Bây giờ cần phải phân biệt ý thức suy ngẫm và ý thức sơ đẳng gắn liền với kinh nghiệm. Chẳng hạn, kinh nghiệm của một con mèo đó là trí nhớ, các cảm xúc hoặc tính khí của nó. Mỗi một trong các biểu hiện này gắn với một mạch não con, mạch con này được gắn kết và tích hợp với tất cả các mạch con khác. Sự tích hợp này gây ra trong não mèo một chuỗi các đột khởi xuất hiện rồi biến mất, để rồi lại tái xuất hiện, tạo cho nó một cái nhìn đặc biệt về thế giới mà người ta gọi là kinh nghiệm của nó.
Trong cuộc sống thường nhật của chúng ta, 90% trải nghiệm của chúng ta là sơ đẳng: đi, đón xe bus hay chuẩn bị một bữa ăn không phải là các hành động nhất thiết phải gắn với một sự suy ngẫm. Còn về khả năng suy ngẫm, thì đó chính là trải nghiệm của sự quay lại với chính bản thân mình. Nó dường như gắn liền với ngôn ngữ. Chính sự kết nối mật thiết này với ngôn ngữ đã cho ý thức suy ngẫm một địa vị duy nhất chỉ có ở con người. Trong số tất cả các loài sinh vật, chỉ có con người là có được ngôn ngữ hoàn chỉnh. Varela nhận xét: "Nếu chỉ có trải nghiệm, thì có lẽ tôi chỉ là một con khỉ dạng người". Một con khỉ không thể thực hiện hành động quay lại với chính mình, vì khả năng ngôn ngữ của nó chỉ ở trạng thái sơ đẳng. Đây là một vấn đề là tất cả hoặc không là gì hết. 

Như vậy, vấn đề đặt ra là: liệu các robot có thể có được một ý thức suy ngẫm hay không? Nhiều công trình nghiên cứu mới đây về "trí tuệ nhân tạo mới" đã chứng tỏ rằng một tập hợp các robot nhỏ có thể tự tổ chức bằng cách tương tác với nhau và xử sự theo cách có vẻ như là chúng có ý thức. Chẳng hạn chúng chấp nhận việc đưa thêm vào các robot bổ sung, nếu những robot này giúp chúng hoạt động tốt hơn, và chúng sẽ loại bỏ những robot đó nếu chúng cản trở hoạt động này. Các robot hiện nay có thể có cấp độ ý thức của một côn trùng và đang tiến gần tới cấp độ ý thức của con chó. Tuy nhiên, ý thức này bắt nguồn từ kinh nghiệm và vẫn còn là sơ đẳng. Quá trình "đào thải" của các robot vừa được mô tả ở trên mới chỉ nằm ở cấp độ bản năng của chú chó của Pavlov. Vẫn còn rất xa ngôn ngữ hoàn chỉnh và ý thức suy ngẫm của con người. 

Matthieu: Tuy nhiên, ngay cả khi các điều kiện cho phép sự khắc ghi trên thể xác của ý thức có thể được tạo ra bằng sự hoàn thiện dần dần của một giá đỡ vật lý, thì theo Phật giáo, giá đỡ này (dù đó là một tổng thể các neuron hay một robot) cũng không thể là nguyên nhân đầu tiên của ý thức, vì những lý do mà tôi đã nêu ở trước. Nếu một robot có thể "sản xuất" ra ý thức, thì khi đó người ta sẽ thực sự có một "con ma trong cỗ máy." 

Chỉ có ý thức tinh tế mới thực sự có khả năng ý thức về chính nó dựa trên một phương cách phi nhị nguyên không đòi hỏi sự tách biệt giữa chủ thể và khách thể. Người ta gọi khả năng này là "soi sáng" vì nó có thể tự soi sáng chính mình và làm sáng tỏ các hiện tượng, nghĩa là nắm bắt được chúng. 
Chắc hẳn người ta sẽ hình dung rằng ý thức tinh tế này có thể gắn kết cả với một robot lẫn với một sinh vật sống. Khi người ta đặt câu hỏi này cho Đạt Lai Lạt Ma, Ngài đã trả lời rằng điều này là hiểu được nhưng Ngài không thấy rõ lắm là tại sao ý thức lại lựa chọn gắn kết với một cỗ máy, cũng như không thấy một loại nghiệp nào lại khiến nó làm như thế. Và tôi vẫn băn khoăn không biết vì lý do gì mà robot lại tự hỏi nó là gì! 

Trịnh Xuân Thuận: Ý thức suy ngẫm, khác với ý thức giản đơn về tồn tại (ý thức sơ đẳng) nhưng có một cái nhìn về sự tồn tại của chính mình khi tự hỏi về số phận của mình, hình như đã xuất hiện cách đây khoảng 100.000 năm (kỷ nguyên người Cro-magnon), khi con người bắt đầu chôn xác đồng loại. ý thức con người, chính là sự nhận ra rằng mỗi một con người là duy nhất, rằng anh ta không thể thay thế được và rằng sự mất đi của anh ta là một bi kịch không thể cứu vãn. 

Matthieu: Sự ra đi của một người thân là nguồn gốc của nỗi đau lớn, nhưng cái chết nằm trong bản chất của vạn vật và mọi sự gắn bó thái quá chỉ là nguồn gây ra những đau khổ vô ích. Bi kịch này liệu có phải là không thể cứu vãn? Theo Phật giáo, dù chúng ta muốn hay không, thì chúng ta vẫn cứ tiếp tục lang thang từ kiếp này sang kiếp khác trong vòng luân hồi, chừng nào chúng ta còn chưa được giải thoát khỏi vô minh. Dưới ánh sáng của một sự toàn giác sâu sắc về bản chất của tồn tại, tính đặc thù của con người cũng chính là bằng chứng của sự dửng dưng, không gắn kết với bất cứ cái gì.
Như vậy, ý thức suy ngẫm không phải chỉ là sự gắn kết với khái niệm cá nhân mà anh mô tả. Đó còn là ý thức có thể tự vấn về bản chất của chính nó và tìm về nguồn gốc của các tư tưởng để cuối cùng lĩnh hội được ý thức tinh tế và sự soi sáng nguyên thủy của nó. 

Trịnh Xuân Thuận: Đó cũng là cái nhìn không chỉ vào chính mình, mà còn vào người khác, vào môi trường của mình và vào thời gian đã trôi qua. Đó là khả năng hình dung ra một thế giới sau khi chết và chuẩn bị cho cuộc viễn du vào thế giới đó bằng các nghi thức lúc từ giã cõi đời. Đó cũng là khả năng thực hiện các hành động vô tư bằng cách thể hiện, chẳng hạn như ý nghĩa của sự siêu thăng, bằng các bức họa trên vách các hang động. Các bức họa của người thời đồ đá cũ được vẽ cách đây 40 nghìn năm trong các hang Chauvet và Lascaux (ở Pháp) theo tôi có lẽ là những biểu hiện đầu tiên của ý thức con người. 

Matthieu: Một vấn đề khác mà các nhà sinh học neuron theo quan điểm quy giản luận khó có thể giải quyết là vấn đề tự do ý chí. MÔ hình con người neuron khẳng định rằng ấn tượng mà chúng ta có được khi suy nghĩ và quyết định chỉ là sự phản ảnh những tính toán cho phép hệ thần kinh xác định hành động tốt nhất cần thực hiện tùy theo các yếu tố kích thích bên ngoài, vào bộ gene của chúng ta và vào sự học hỏi mà chúng ta thực hiện trong suốt cuộc đời Một giây phút lưỡng lự, chẳng hạn, là do hệ thần kinh phải có một thời gian để quyết định sự lựa chọn tối ưu khả dĩ. Khi các mạch khác nhau của mạng thần kinh đồng bộ với nhau, chúng ta có cảm giác là đã đưa ra quyết định và chúng ta cảm thấy nhẹ nhõm. Theo David Potter: "Người ta đi đến việc tự hỏi liệu các quyết định có phải bao giờ cũng được đưa ra trong ý thức, hay ý thức mà chúng ta vốn rất tự hào chẳng qua chỉ là một chức năng nhân chứng đơn thuần trong não." 

Một số người đã đi đến kết luận rằng tự do ý chí chỉ là một ảo giác: chúng ta có cảm tưởng là được tự do và đưa ra các quyết định là bởi vì, khi để mặc cho chúng ta tin rằng chúng ta đang điều khiển, nó đóng vai trò thuận lợi trong sự thích nghi loài của chúng ta trong quá trình tiến hóa. Lập luận này trở lại coi con người như những robot tự cho mình là các sinh vật biết tư duy. Người ta buộc phải đi đến loại giải thích này trong một mô hình ở đó ý thức chỉ là một đèn báo sáng ở đầu dây chuyền của các phản ứng hóa học thần kinh. Mặt khác, người ta cũng tự hỏi tại sao đèn báo này tồn tại. Nếu tất cả các quyết định đã được tính toán bởi các neuron, thì thử hỏi ý thức sẽ dùng để làm gì? Khi đó ý thức sẽ không có bất kỳ tác động nào lên não và chỉ là một nhân chứng thụ động và vô tác dụng, một tiểu tốt tự cho mình là hoàng đế. 
Làm như vậy, người ta đã quên mất quy luật nhân quả tương hỗ: không có bất kỳ hành động nào có thể thực hiện theo một chiều. Nếu ý thức không tác động lên não, thì chúng ta có thể bình thản tiếp tục hoạt động, với ảo tưởng mình đang nắm quyền điều khiển, nhưng trên thực tế chẳng có một chút tự do ý chí nào. Nhưng khi ấp ủ ham muốn chứng tỏ tự do ý chí của mình, tôi đưa vào một nhân tố mới: sự ham muốn này có thể dẫn dụ đến các tình huống không bao giờ được sinh ra. Chẳng hạn, tôi có thể làm chậm lại vô hạn thời điểm tôi rời khỏi cái ghế, chí ít là cho tới lúc tôi còn đang ngủ hoặc bất tỉnh. Điều này sẽ đi ngược lại với tất cả các xung năng của tôi - như đói, khát, các nhu cầu tự nhiên, v.v... Quyền phủ quyết tinh thần này không có một ý nghĩa nào khác ngoài ý nghĩa chứng tỏ tự do ý chí của tôi. Như vậy, người ta không thể khẳng định một cách có lý rằng nó là sản phẩm của những tính toán vô thức của não. Một người mắc bệnh thần kinh có thể ngồi im như vậy trên chiếc ghế của mình, nhưng một người khỏe mạnh về tinh thần thì không có bất kì lý do gì để làm điều đó mà không tự quyết định từ trước một cách hoàn toàn tự do.
Vậy thì từ đâu mà nảy sinh ra ý tưởng chứng minh rằng ý thức là tồn tại? Làm thế nào mà một cái gì đó không tồn tại lại có thể mong muốn chứng tỏ là nó tồn tại? Bằng cách nào mà các nhà bác học không có ý thức sẽ đi đến chỗ tạo ra được một khoa học phủ định sự tồn tại của ý thức? Phải chăng ở đây có một điều gì đó thiếu logic? Thậm chí có cần phải đặt ra câu hỏi về sự tồn tại của ý thức hay không? Trải nghiệm cá nhân của chúng ta nói với chúng ta rằng nó tồn tại. Hay là còn có một thế giới nào khác nằm bên ngoài trải nghiệm của chúng ta? Tính hiện thực của một thế giới không liên quan đến chúng ta liệu có một ý nghĩa nào không? Như vậy, phủ định sự tồn tại của ý thức dường như là thể hiện một lựa chọn siêu hình hơn là một bằng chứng khoa học. 

Trịnh Xuân Thuận: Dù sao đi nữa thì khoa học vẫn còn chưa biết chúng ta nghĩ và sáng tạo như thế nào, chúng ta biểu lộ tình cảm yêu, ghét, đẹp, xấu, vui buồn ra sao. Chừng nào điều này còn chưa được làm sáng tỏ, thì chừng đó vẫn khó có thể đề cập đến vấn đề nguồn gốc của ý thức. 

Matthieu: Một điểm khác: cả máy tính lẫn hệ thần kinh đều không có khả năng thích nghi một cách tuyệt đối, trong khi lại không có gì chống lại được việc một dòng ý thức thay đổi một cách hoàn toàn đột ngột và bột phát trong cách cảm nhận về thế giới. Cần phải trải qua cả một cuộc đời để thiết lập các kết nối của hàng tỷ neuron của não bộ, thông qua sự chọn lọc tự nhiên diễn ra giữa các neuron đó. Như ông đã nêu, một số neuron suy thoái, một số khác thiết lập các kết nối ổn định - những kết nối thuận lợi nhất cho sự thích nghi với môi trường bên ngoài và với các mối quan hệ với người khác, với sự tồn tại của giống loài, với hạnh phúc của chúng ta, v.v. Tất cả những điều này đòi hỏi phải có thời gian, từ sự hình thành của não khi còn là bào thai cho tới khi trưởng thành. Chắc chắn là não bộ có độ mềm dẻo to lớn, bằng chứng là những tu chỉnh lại quan trọng của các kết nối neuron bắt đầu chỉ vài phút ngay sau khi cắt đi một ngón tay hoặc một cẳng chân. Nhưng, người ta vẫn không thấy rõ làm thế nào, ở một thời điểm nhất định trong cuộc đời chúng ta, sự nhận thức lại có thể làm đảo lộn nhanh chóng cách suy nghĩ và lối sống của chúng ta.
Chẳng hạn, người ta đã từng biết trường hợp của những tên giết người đã sống nhiều năm trong sự ám ảnh của hận thù và chúng tiếp tục giết lẫn nhau ngay trong tù. Và rồi, sau một sự kiện hoặc một sự tự ý thức, chúng bỗng nhận ra tính vô nhân đạo trong các hành vi của chúng và bắt đầu nhìn nhận thế giới theo một cách hoàn toàn khác. Trong một khoảng thời gian rất ngắn, chúng đã hành động theo một cách hoàn toàn ngược lại, cách của yêu thương và lòng vị tha. Một sự thay đổi đột ngột như vậy, về mặt lý thuyết mà nói, đòi hỏi phải có sự sắp xếp lại rất nhiều các kết nối neuron, và mặc dù não rất mềm dẻo, những sắp xếp lại này không thể được thực hiện trong chốc lát được. Tuy nhiên, ý thức tinh tế, do bản thân nó không phải chịu các ràng buộc vật lý, nên có thể thay đổi một cách hoàn toàn dễ dàng. 

Trịnh Xuân Thuận: Sự thay đổi hoàn toàn và hầu như tức thời này trong hành vi cũng đã từng xuất hiện ở những người bỗng chốc có được đức tin: một số người vốn hoàn toàn thờ ơ với các vấn đề siêu hình bỗng có một đức tin tôn giáo mãnh liệt làm thay đổi hoàn toàn lối sống và suy nghĩ. Đó chính là "ân huệ" hay "sự soi sáng" mà Paul Claudel và Julien Green đã miêu tả rất rõ ràng. 

Matthieu: Tóm lại, theo Phật giáo, trải nghiệm mà chúng ta có từ chính ý thức của mình, khả năng hiểu được bản chất cơ bản của ý thức đó bằng phương pháp nội quan cũng như khả năng làm chủ nó bằng cách coi nó trực tiếp là đối tượng tìm hiểu nội tâm của chúng ta, cho thấy sự hiện diện của một continuum ý thức, một continuum không thể quy giản về cái giá đỡ vật lý của nó. Nhưng tất cả những điều mà chúng ta vừa nói đến đều thuộc chân lý tương đối. Các sự kiện tinh thần, các tư duy logic, hy vọng và nghi ngờ, các xung năng và các lập luận dẫn chúng ta đi tới quyết định điều này hay điều kia thuộc về vô minh và ảo tưởng. Chúng ta lạc vào các dòng suy nghĩ mà chúng ta coi là hiện thực. Vượt xa sự lầm lẫn, chỉ có tuệ giác không thể phủ định là sự hiện diện tỉnh thức, không có khái niệm, sản sinh và thể hiện. Đó là sự đơn giản nguyên thủy của sự tỉnh thức này, là tuyệt đỉnh của trải nghiệm trực tiếp, không thể mô tả bằng lời và không thể tưởng tượng được, nó không cần một chứng thực nào khác ngoài chính nó. Dù cách hiểu continuum của sự tỉnh thức này như thế nào chăng nữa, thì người ta cũng không thể bác bỏ nó, giống như cái hư không không thể bác bỏ cái hiện hữu. Các khái niệm trở nên bất lực trước bản chất tối hậu của tinh thần. Bản chất này thiêu hủy chúng, như ngọn lửa đốt cháy hết lông chim, không để lại tro tàn.