對於人工智慧是否能夠思考，根據我粗淺的認知，有一種常見的論點是：它知道自己在做什麼嗎？比如說AlphaGo可以下圍棋了，但它知道自己在下圍棋嗎？
可是，如果我在它身上安裝了另外一種程式，只要我們問它在幹嘛的時候，它都能準確地告訴我們它自己的狀態(答：我在下棋)。當然這會消耗它的某些機能，可能讓它下棋沒那麼強，但不管啦。這種程式應該很簡單，你家的筆電在開機時，它也都能告訴你現在的開機狀態，也能告訴你它需要更新所以你要請稍後。那麼，它滿足了、回應了上面的那種質疑了嗎？
當然，它可能會有另外一種質疑，就是它依舊不知道自己在講話。那麼，我又安裝一個程式，讓它去運作，把剛剛所有的問答都送入分析中，讓這台電腦同時又能在另一個螢幕(或顯示器)呈現出「我在講話」。那麼這件事就解決了嗎？
啊我怎麼會這樣想呢…
我想到了一種可能相當比喻性的說法，就是人在很投入一事務的時候，其實不太知道、甚至說可能就是不知道自己在做什麼。因為它把全部的意識都放在這事上，它沒有餘力去觀察自己的行為，產生出「喔原來我正在做X」的信念。比如說你正在跟某人打得火熱的時候，你可能搞不好都不會注意到、知道自己喜歡他，而直到它把自己稍微抽離出來(可能是別人追問你，或是你某天停下來觀察自己跟他的互動模式)；你分點神去觀察去思考自己的作為時，它才知道「喔原來我正在做X」(這裡的X可能是Like)。但是對於行為X的觀察行為X2，也可能需要在X3的時候才能觀察到(喔，原來我在觀察自己」)，並以此產生信念。
假設人類可以做到的極限是Xn，假設他可對自己行為從meta的層面做反思並知道自己在做什麼的極限組數是n。那麼，只要讓人工智慧也能做到Xn，那麼它是否也就具有思考能力了呢？而能夠做到Xn+1的人工智慧，是否就是有超越人類的思考呢？
身為一個念不太懂心靈哲學的人，真心覺得這好像是個可以寫的時事~~也真心想看大家的回應
