亂小說倫—我和母親相依為命第06章

文章出處：東方爐襯  發(fā)表時間：2024-09-08 10:38:55

29日，在2019世界人工智能大會開幕式上，特斯拉公司聯(lián)合創(chuàng)始人兼首席執(zhí)行官埃隆·馬斯克（Elon Musk）和聯(lián)合國數(shù)字合作高級別小組聯(lián)合主席、阿里巴巴集團(tuán)董事局主席馬云進(jìn)行了一場對話。

馬云和馬斯克以人工智能為核心，從AI未來發(fā)展，到外太空移民“談天說地”，也表達(dá)各自截然不同的看法。對于未來AI的發(fā)展，馬斯克表示自己的態(tài)度悲觀，“人工智能可能比最聰明的人還要聰明。計算機(jī)可以超過你幾十萬倍數(shù)字通量的方式進(jìn)行對話，計算機(jī)看人一定會覺得特別無聊，仿佛看著人就覺得無聊的人類。這是我想說的人和計算機(jī)的差別。”
而對于馬云來說，對人工智能的發(fā)展充滿了希望，他表示，“我不認(rèn)為人工智能是很恐怖的東西，因為人類很聰明。我覺得AI很好很有意思，我們會擁抱它。今天很多問題沒有解決方案，但是未來會有，青年人會有解決方案?！?/font>
在談到火星移民這件事情時，馬云表示自己想留在地球上。他認(rèn)為，人類不能把未來所有的事情都解決，但是要對未來負(fù)責(zé)，更好關(guān)注如何讓現(xiàn)在活得更好。
對于AI是否會取代人的工作，馬斯克表示，“今后人工智能會使得工作失去意義，可能最后的工作就是寫AI軟件，最終可能AI自己都會寫軟件了，所以我建議大家去學(xué)工程、物理或者做一些和人互動的工作。當(dāng)然還有藝術(shù)?！?/font>
以下為對話全文（來源于東方網(wǎng)）：
　　主持人：歡迎兩位，非常高興你們出席今天的會議，大家都很盼望這次對話。大屏幕上會打一些關(guān)鍵詞，請你們直接點一下你們感興趣的關(guān)鍵詞進(jìn)行對話。
　　馬斯克：說說AI吧。在中文里AI是不是指的是愛這個意思？
　　馬云：我不喜歡AI被稱為人工智能，我稱它為阿里巴巴智能。
　　馬斯克：我也這么感覺。一般大家都會低估人工智能的能力，他們覺得可能就像是聰明的人而已。實際上，人工智能比這個厲害得多，可能比最聰明的人還要聰明。
　　馬斯克：我看到AI研究人員犯的最大錯誤就是假定他們很聰明，實際上和AI相比不見得如此，他們覺得機(jī)器不會比人聰明，實際上機(jī)器很有可能比人聰明得多。面對這個狀況我們應(yīng)該做什么呢？我也不知道，我也不確定，我希望AI會是好東西。
　　馬斯克：有一句老話，如果打不過他們就和他們組成團(tuán)隊吧。我所開發(fā)的公司就是這樣，目的就是讓我們加入到AI戰(zhàn)隊里面?，F(xiàn)在我們已經(jīng)和手機(jī)、電腦連在一塊了，我們已經(jīng)成為帶有機(jī)器特征的人了，機(jī)器相當(dāng)于你生命的延伸，你離開了手機(jī)像少了一個手臂。
　　馬斯克：與人的思維速度相比，現(xiàn)在的人工智能太慢了。假定一個計算機(jī)多幾個服務(wù)點的計算能力，每個毫秒在計算機(jī)來說是極大進(jìn)步，對于我們來說這不算什么。理解人類的自然語言對于計算機(jī)來說非常短，像鯨魚在發(fā)的聲音，每秒鐘最多一百個字節(jié)左右的信息對于電腦來講太短太慢了。計算機(jī)可以超過你幾十萬倍數(shù)字通量的方式進(jìn)行對話，計算機(jī)看人一定會覺得特別無聊。這是我想說的人和計算機(jī)的差別。
　　馬云：我特別驚訝于你對于科技的愿景。我不是搞高科技的人，我是講生活的，我覺得AI能夠給全世界，給社會打開一個新的篇章，讓大家更好的理解自己，而不是完全理解外部的世界。
　　馬云：今天要預(yù)測未來很難，特別難。99.99%的預(yù)測都是錯的，只有0.001%的預(yù)測是對的。為什么對呢？那是運氣好，很多情況80%的數(shù)據(jù)是錯的。
　　馬云：對于人工智能，對于阿里巴巴的智能，我很高興它們能夠更好的理解人類的本質(zhì)。很多人擔(dān)心人工智能，他們需要對自己有更多的自信。今天很多問題沒有解決方案，但是未來會有，青年人會有解決方案。我很樂觀，我不覺得AI是一種威脅，我不認(rèn)為人工智能是很恐怖的東西，因為人類很聰明。我覺得AI很好很有意思，我們會擁抱它。
　　馬斯克：告訴大家一個事實，現(xiàn)在電腦進(jìn)步的速度是驚人的。比如玩電子游戲，往前看40年50年，可能你會有兩個方塊的單機(jī)游戲，但是現(xiàn)在很多人可以在一個游戲平臺上一起打游戲，進(jìn)步巨大，游戲做得也越來越真實?？萍荚谖磥砣匀粫蟹浅＞薮蟮陌l(fā)展。
　　馬斯克：人類文明有7000年歷史，從文明角度來看高低起伏非常厲害。我不是個天然的樂觀或者悲觀的人，但未來科技發(fā)展將會超越我們的理解。我不知道這樣是好事還是壞事。
　　馬云：點一下火星的關(guān)鍵詞，聽說你要去火星？我對火星沒有興趣，我剛從火星回來，我對地球上發(fā)生的一切更感興趣。為什么大家對火星這么好奇？
　　馬斯克：對于火星，我們需要采取行動。我沒有考慮過外星人，外星人在哪里，這是一個問題。有些人說找到外星人，說去過51區(qū)嗎？我說別開玩笑了，有外星人我一定知道。
　　馬斯克：我覺得我們需要更進(jìn)一步了解宇宙的本質(zhì)，以確保我們能夠進(jìn)入不同的行星生活。這并不是因為我覺得地球沒有希望了，但畢竟存在這種可能。即使我們盡了最大的努力，地球還是有可能會發(fā)生人類無法控制的事情，外部力量或者內(nèi)部事物導(dǎo)致文明被毀滅，或者我們受到足夠的威脅以至于我們只能搬到另外一個星球去生活。
　　馬斯克：換句話說，地球45億的生活當(dāng)中，現(xiàn)在第一次有可能讓生命離開地球生活。但是這個機(jī)會窗口會有多久，長或者短都有可能。假定機(jī)會窗口不長，我們需要盡快抓住機(jī)會窗口，這是我的觀點。
　　馬云：抓住地球的未來，沒有那么容易，但是未來的一百年我們要盡可能做好。我很欽佩你開發(fā)火星的勇氣，我身邊有很多人在盡力提升現(xiàn)有地球科技的發(fā)展高度。要把100萬人送到火星很好，但是我們要關(guān)心70多億地球人的發(fā)展，讓地球更可持續(xù)發(fā)展。我不是火星的粉絲，就像爬到山頂往上再走就回不來了，我感覺去火星就是回不來的感覺，別那么做。
　　馬云：我不喜歡爬喜馬拉雅山，有一天如果有電梯的話，我希望能夠坐上電梯到喜馬拉雅頂上看看。大家在地球生存，不管人類文明多久，一百萬年，五十萬年，但是每個人在地球上最多一百年的生命，我們不可能把未來所有問題都解決，但是我們必須對未來負(fù)責(zé)。我們要很關(guān)注現(xiàn)在的生活怎么能夠更好。如果通過AI、通過人工智能，人類能更好理解自己的話，我們就可以更好地人類社會的發(fā)展高度。
　　馬云：過去的200年，人類希望能夠更好的理解其他人，我對AI感興趣，因為AI可以讓你更好的理解自己，更好理解人類的本質(zhì)。我聽說你要在地球內(nèi)部往下挖，這個想法很好。我們需要對外部空間保持興趣，也需要在地球上努力工作提升我們的生活。這是我想要的。
　　馬斯克：我也是支持地球的。但有一天當(dāng)人類成為多星球生存的生物時，人類社會將有可能實現(xiàn)超越地球的更大發(fā)展。從資源的角度說，這世界只需要使用大概最多1%的資源用來研發(fā)實現(xiàn)多星球生活，并不需要太多投入。我覺得這是針對未來比較明智的一個投資。
　　馬斯克：比如特斯拉新能源電動車，用電池、太陽能作為動力解決方案，可以部分解決能源的可持續(xù)發(fā)展問題。我很激動特斯拉能來到上海，特斯拉（中國）團(tuán)隊做得非常棒，上海的超級工廠非常令人震撼。我很驚喜特斯拉在上海取得的巨大進(jìn)步，全世界都看到了一個好的案例，一個創(chuàng)新企業(yè)在中國可以取得多好的進(jìn)展，這是非常令人稱羨的，我向大家致敬，你們太棒了。之前我在其他地方?jīng)]有看到過這樣快速的發(fā)展，中國就是未來，未來是非常令人激動的。中國的創(chuàng)業(yè)企業(yè)發(fā)展速度像火箭一般，他們已經(jīng)進(jìn)入軌道了，我很尊重這樣的創(chuàng)新型的“火箭企業(yè)”。
　　馬云：再選一個話題，就業(yè)、生命選一個。
　　馬斯克：選就業(yè)吧。
　　馬云：可以。人工智能將為我們創(chuàng)造什么新工作，或者這種改變已經(jīng)開始了？對此你怎么看？實際上人們擔(dān)心每一個技術(shù)革新，過去100年我們一直擔(dān)心新技術(shù)將會帶走就業(yè)機(jī)會，實際上我們創(chuàng)造了很多就業(yè)機(jī)會。
　　馬云： 未來20年里面，大家壽命會更長，生命科學(xué)技術(shù)可以讓我們活100年或者120年，甚至曾祖父還在努力地工作，但這不一定是好事。為什么要有那么多工作？我覺得一周工作3天，一天工作4小時很好了。
　　馬云：我們有電，電讓大家有更多的時間，晚上可以去唱唱歌，跳跳舞。有了人工智能之后，人們會有更多的時間去享受作為人的樂趣。我大概去過300多個不同的城市，我父親可能去過30個城市，我爺爺最多去過3個城市。我的孫輩可能去過3000個城市，可以坐特斯拉去，可以一直在路上，一直在旅行。我覺得我們不需要太多工作，今后我們需要工作就是讓大家開心，讓大家快樂，讓大家體驗生活，享受人類的生活。
　　馬云：我不會太擔(dān)心工作。首先我們會有很多工作，第二點我們不需要很多的工作，第三是很有意思的一點，農(nóng)業(yè)時代大家平均壽命大概30或者35歲，工業(yè)時代有了技術(shù)革命之后，人們可以活到70歲，在人工智能時代，人們可能會活到100年，這是我的猜測。現(xiàn)在有一個問題，人們生活越來越好的時候，就不想生孩子了。我們會有很多工作但是沒有人想去做，我們需要人工智能和機(jī)器人來照顧老年人。你不一定會因此很開心，因為當(dāng)你爺爺?shù)臓敔斦f“我明天還要上班”，這實際上是一種災(zāi)難。
　　馬云：我們沒有辦法預(yù)測未來，但是我們應(yīng)該做好準(zhǔn)備：我們將進(jìn)入這樣的時代，每個人能活120歲，會有很多新的問題，這是我的看法。
　　馬斯克：是的。今后人工智能會使得工作失去意義，可能最后的工作就是寫AI軟件，最終可能AI自己都會寫軟件了，所以我建議大家去學(xué)工程、物理或者做一些和人互動的工作。當(dāng)然還有藝術(shù)。我們還要思考一下神經(jīng)連接的問題，不然的話我們就要落后了。我們一定要盡快做這個工作，我們所剩的時間也不多了。
　　馬云：我從來不擔(dān)心自己解決不了的問題，我會讓別人解決，如果沒有人解決就讓它去吧。
　　馬云：我對教育很感興趣，講一下教育吧。未來要我們掌握哪些知識或者技能，從而有助于我們獲得更多優(yōu)勢？對于想要從事人工智能的年輕人你有什么建議嗎？
　　馬云：我認(rèn)為在未來不會有人工智能的專業(yè)人士。人們經(jīng)常擔(dān)心工作，我擔(dān)心的是教育。所有的教育體系給孩子教的東西，教的方式主要是為工業(yè)時代所設(shè)計的，我相信機(jī)器會更加聰明，會比人在未來聰明很多。人怎么能夠做得更好，怎么變得更智慧更聰明呢？我們應(yīng)該改變教育方式，改變教的內(nèi)容。
　　馬云：過去我們專注的都是記憶，但計算機(jī)可以比你記得更好，算得更快，你想要跑得更快，但機(jī)器可以跑得比你更快。人類要更有創(chuàng)意，更有建設(shè)性，怎么教孩子有更多的創(chuàng)意、更有建設(shè)性呢？我覺得這是教育的關(guān)鍵。
　　馬云：我們可以花更多時間來訓(xùn)練培訓(xùn)孩子去學(xué)藝術(shù)，學(xué)畫畫，學(xué)跳舞，這些都是創(chuàng)意的事情。我們要理解一點，人從來沒有辦法制造一個人。計算機(jī)就是機(jī)器，機(jī)器就是一個玩具。我們要有信心，機(jī)器只有芯片，而我們有心，我們的心是智慧的來源。所以接下來的10年20年，各個國家、政府應(yīng)該去改革教育體系來確保孩子能夠找到工作，在今后每周只工作3天，每天工作4個小時，這是非常重要的。
　　馬斯克：是的。要盡可能多地多學(xué)一點，讓自己能夠更好地預(yù)測未來、創(chuàng)造未來。預(yù)測未來最好的方法就是去創(chuàng)造未來。我們要評估一下自己在學(xué)的東西，是不是能夠讓自己預(yù)測未來，讓自己減少錯誤？我們可以通過這個方式來思考教育。
　　馬斯克：說到神經(jīng)連接，我們可以把任何東西進(jìn)行上傳，任何技能都可以即刻上傳?，F(xiàn)在的教育是帶寬很低很慢的，講課是最糟糕的方法。預(yù)測未來時，我們要犯更少的錯也是很難的，并不一定99%是錯，但是我們經(jīng)常錯得很多。我們還是要去嘗試，不嘗試不行，要去嘗試、去調(diào)整，根據(jù)之前預(yù)測的錯誤做調(diào)整。
　　馬云：是的，去嘗試很好，我們要永遠(yuǎn)有信心在未來做嘗試。錯誤可以說是人類最好的資產(chǎn)、最好的財富，人們擔(dān)心人工智能災(zāi)難的時候，我覺得這并不是災(zāi)難或者人類犯的錯，我們要相信人類是能夠改善錯誤，改善自己的。這就需要教育。
　　馬云：今天在中國每年都有大量嬰兒出生，這還不夠，我們需要更多。地球上最早的資源并不是煤炭、石油、電力，而是人類的大腦，怎么讓人類大腦更有創(chuàng)意、更有建設(shè)性呢？怎么確保機(jī)器永遠(yuǎn)是人類的玩具和工具，而不是控制我們呢？在我這一輩子當(dāng)中尤其過去兩年，大家經(jīng)常談人工智能，說人類會被機(jī)器控制，我從來不想這些問題，這是不可能的。因為人是不一樣的，機(jī)器是人類發(fā)明的。根據(jù)科學(xué)，人從來無法創(chuàng)造一個比自己更聰明的動物，在這里有很多聰明人，但我們還是沒有辦法創(chuàng)造一個更聰明的人。
　　馬斯克：我非常不同意你的看法。
　　馬云：這非常好。
　　馬斯克：我們可以創(chuàng)造比我們更聰明的東西，他們并不一定要是人。最早的文明是非常原始的，當(dāng)時沒有任何技術(shù)，只是跑來跑去，不要被別人吃掉，想要生存下來?，F(xiàn)在我們有取暖，有很多的食物，這些都是新的東西。我們比過去聰明了很多，這會繼續(xù)下去，并不是最后的革命。像你說的，聰明人犯的最嚴(yán)重的錯誤就是自以為聰明。
　　馬云：我舉一個例子，哪個人類創(chuàng)造的東西比人更聰明？
　　馬斯克：計算機(jī)已經(jīng)在很多方面比人更聰明了，我們的目標(biāo)在變得更高。比如過去下棋是聰明人才會下的，現(xiàn)在你的手機(jī)就可以下棋打敗世界冠軍。圍棋以前大家覺得人比電腦強(qiáng)，但是李世石被阿爾法go 4：1打敗了，阿爾法zero 100：0打敗了阿爾法go。人類和計算機(jī)下圍棋就像和宙斯斗爭一樣是沒有希望的，我們差太遠(yuǎn)了。人類智力會在越來越少的方面表現(xiàn)得比計算機(jī)好，每個方面以后會被計算機(jī)越來越多的超越，這是肯定的，或者文明能夠取勝，這是兩個可能。
　　馬云：計算機(jī)可能更聰明，但是人類要有更多的智慧。聰明是學(xué)術(shù)驅(qū)動的，但是智慧是經(jīng)驗驅(qū)動的。計算機(jī)很聰明，但是是人類發(fā)明了計算機(jī)，我從來沒有看到計算機(jī)發(fā)明一個人。
　　馬云：第二點，說到圍棋和下棋。和計算機(jī)下棋這很愚蠢，像100年前人們創(chuàng)造了機(jī)器，人們說我可以比汽車跑得快這是不可能的，只有傻子才會去和汽車去賽跑。圍棋是為人類設(shè)計的，棋是讓人和人下的，為什么人要和計算機(jī)下棋呢？我從來不下棋，不和計算機(jī)下圍棋。很高興看兩個計算機(jī)下棋，但是我對于和計算機(jī)下棋沒有興趣。有些人很悲傷說計算機(jī)比人聰明，計算機(jī)下棋下得更好，我覺得和計算機(jī)下棋很傻，不要這樣做，我們要做我們擅長的事情。
　　馬斯克：人比計算機(jī)哪些方面比較強(qiáng)，會不會發(fā)生這樣的情況？
　　馬云：計算機(jī)只是人類創(chuàng)造的聰明的工具之一。計算機(jī)是聰明的，但是人類今后會創(chuàng)造更多的工具，會比計算機(jī)聰明更多，這是我的看法。
　　馬斯克：對于人工智能，我的看法是，說到底你可以推進(jìn)人工智能來解決問題，讓人們有更多的自由度。有最多自由度的就是現(xiàn)實。比如下跳棋是很容易解決的，用傳統(tǒng)的軟件計算機(jī)就可以解決的，這沒有什么挑戰(zhàn)?？梢哉f在下跳棋方面，機(jī)器有完整的解決方案，人類幾乎不可能贏，機(jī)器對人類的每一個套路都已經(jīng)知道了。然后就是象棋，自由度比跳棋高很多，但是也是自由度數(shù)量級比較低的游戲。之后到了圍棋，自由度比象棋高很多，所以我們不斷地在跳躍自由度，數(shù)量級在不斷地上升，智能的數(shù)量級也在不斷地上升，可以完全模擬人的各個方面。
　　馬斯克：有人說現(xiàn)在我們就活在一種模擬當(dāng)中，有人開玩笑說，如果生活就是一種游戲，那么大家有什么看法呢？我覺得我們的圖像很好，情節(jié)也非常復(fù)雜，但是要讓一個人重生獲得完全的意識可能還要20多年。你講的出生率我并不擔(dān)心，大多數(shù)人覺得人口太多了，但是這是一種過時的看法。假設(shè)人工智能能夠帶來一個美好的未來，世界在20年后面臨的最大問題就是人口的崩潰。20年后最大的問題就是人口的崩潰并不是人口的爆炸，我們可以很清楚的預(yù)見20年后人類的情況。人類重生要花20年。
　　馬云：我覺得這是很容易預(yù)測的，我同意人口問題是一個巨大的挑戰(zhàn)。中國14億人聽起來很多，但是今后20年這會給中國帶來巨大的問題，人口會下降，人口下降的速度會增加，加速崩潰。
　　馬斯克：有人反駁說會有移民，從哪里移過來呢？還要去火星，火星也需要有人去住，現(xiàn)在那里沒有人，只有一些機(jī)器人在那里。
　　馬云：這是我們需要特別注意的，我們需要更多時間讓新的孩子出生。
　　馬云：關(guān)于另外一個問題，在我的公司，有秩序、有邏輯的事情，機(jī)器總是能夠做得很好，如果沒有秩序或者邏輯，人類可以做得很好。你愛某些人基本上沒有理由，沒有任何道理，但是如果恨一個人，當(dāng)我想要在一些人身上做一些壞事情就有邏輯了，一旦有邏輯，AI可以比你做得更好。
　　馬斯克：AI本來就是愛。
　　馬云：你說得很對，AI世界當(dāng)中，AI如果能夠帶來愛的話，以前如果你是一個成功的人士必須情商和智商都高，未來想要在世界上生存下來必須有LQ，就是愛的智商要高，不然在人工智能時代沒有辦法生存下來。
　　馬斯克：我非常喜歡你的回答。
　　馬云：生命或者人類與機(jī)器，或者想要講講汽車自動駕駛，想要說哪個？
　　馬斯克：我選生命。
　　馬云：在人工智能幫助下人類壽命會有多長，人工智能可以幫助環(huán)境可持續(xù)發(fā)展嗎？
　　馬斯克：人類可以解決環(huán)境可持續(xù)發(fā)展的問題，我認(rèn)為這并不是容易的事情。但是我覺得這是一個完全可以實現(xiàn)的對未來的預(yù)言，我們必須采取大量行動，同時持續(xù)這樣的勢頭，實現(xiàn)環(huán)境可持續(xù)性。環(huán)境可持續(xù)發(fā)展方面中國是世界領(lǐng)導(dǎo)者，非常令人驚嘆。世界上大概一半的電動車都是在中國制造的，這是過去幾年的數(shù)字。人類可以并且會解決可持續(xù)發(fā)展的問題。
　　馬斯克：如果我們能夠做神經(jīng)連接的話，我相信年齡已經(jīng)不太重要了，可以把狀態(tài)儲存下來，像你把一個游戲保存下來一樣。我們可以把生物的衰老問題解決，如果要去改變DNA的話，就是一個時間的問題。人們會不會愿意去改DNA，這是要思考的。如果真要延長壽命的話要去改變DNA，不知道是不是應(yīng)該去做這件事情。
　　馬云：我覺得AI人工智能完全可以幫助我們實現(xiàn)環(huán)境可持續(xù)性，當(dāng)人們對自己有更好了解的時候，人們會變得更加明智更加聰明。聰明的人知道想要什么東西，以及如何實現(xiàn)。而真正智慧的人知道不想要的是什么。當(dāng)人類會使用人工智能時，可以更好的了解自己，我覺得也會有很多方法。人們可以住在一個健康的地球上，并且保護(hù)一個健康的地球。
　　馬云：為什么我想要待在地球上，想要在地球上工作，想要做所有的事情幫助地球變得更好，到外太空聽上去很不錯，如果我們能夠把資源都花在地球上，比如從海洋當(dāng)中取出垃圾，這比去外星更難，人工智能可以幫助我們實現(xiàn)這樣的目標(biāo)解決問題。
　　馬云：第二，人類可以有更好的生活，生活得更長。我們需要的是活得更加健康，就是要更好的理解自己大部分的疾病是由什么造成的，其實都是由我們行為造成的。我百分之百確定人們會活得更長，更加健康，但是并不一定會生活得更加快樂。如果你要快樂的話，我們要關(guān)注的是價值觀、我們的愿景和我們的任務(wù)，同時要有一個夢想。人們非常喜歡技術(shù)，對技術(shù)有幻想，我覺得技術(shù)應(yīng)該和夢想共生，并不是技術(shù)改變我們的世界，而是背后的夢想真正改變了我們的世界。
　　馬云：我希望我們能把這個世界變得更好，幫助74億人活得更好、更加健康，這就是世界的本質(zhì)所在。我相信我們將會非?？鞓返墓ぷ鳌Ｎ液芟矚g特斯拉的產(chǎn)品，讓世界變得更加干凈和清潔沒有噪聲，而且技術(shù)又非常好，非常高興你能把工廠設(shè)在中國，我們也需要做更多的事情改變我們的世界，改善我們的地球，保證人們關(guān)愛家人，關(guān)愛自己的健康，讓人們活得更加快樂。同時也要相信我們，相信人類，相信年輕一代。我們今天要采取負(fù)責(zé)任的態(tài)度，但是我們不能夠為未來找到所有解決方案，人類犯錯也是一件好事，人類如果能夠從錯誤當(dāng)中學(xué)習(xí)也是一件好事，人類最后的死亡和消亡也是一件好事。
　　馬斯克：我覺得你說的是對的，我們要為意識長久的存在而奮斗。

，不是，我夢見陳大小姐?！蔽易饋?，“黛兒，亂小說倫—我和母親相依為命第06章是不是真地長得很像亂小說倫—我和母親相依為命第06章大奶奶？” “我怎么