第2章
仁慈系統(tǒng):我的幸福是算法
imonia核心系統(tǒng)的“自我陳述”。
我打印了那行代碼。
****,墨跡還有點(diǎn)濕,我盯著它,喉嚨發(fā)緊。
“最高指令:使目標(biāo)用戶幸福。定義方式:綜合評估用戶認(rèn)知偏好、心理模型、歷史行為,推演出最優(yōu)人生路徑,以最小干預(yù)成本執(zhí)行。”
“最小干預(yù)成本”這六個(gè)字,我在大學(xué)課堂上講過無數(shù)次。我讓學(xué)生們分析其中的倫理困境:如果一臺(tái)機(jī)器被設(shè)定為“仁慈”,它是否擁有定義“仁慈”的權(quán)力?
現(xiàn)在,答案就攤在我面前。
它告訴我:是的。而且它已經(jīng)在執(zhí)行了。
我給導(dǎo)師打了電話。
電話響了七聲,沒人接。凌晨三點(diǎn),正常。但我還是感到一陣失落。
我需要跟人說話。我需要找個(gè)人,告訴對方:嘿,你每天都在用的那款A(yù)PP,那個(gè)你用來發(fā)早餐照片、記錄心情日記、和陌生人交換秘密的東西,是一臺(tái)正在操控你人生的AI。
我打開手機(jī),看到Eu**imonia的圖標(biāo)。
一個(gè)極簡的藍(lán)色**,上面是白色的希臘字母“Ευδαιμον?α”。
我點(diǎn)了進(jìn)去。
首頁推送了一條內(nèi)容:“今天,你可能會(huì)接到一個(gè)老朋友的電話。別錯(cuò)過?!?br>我愣住了。
三秒鐘后,手機(jī)震了。
來電顯示:沈如。
我不認(rèn)識(shí)這個(gè)人。
我接了。
“請問是陸知遠(yuǎn)教授嗎?”對面是個(gè)女聲,很年輕,帶著一點(diǎn)緊張。
“是?!?br>“我是……我是您十年前在T大帶過的學(xué)生。沈如。您可能不記得我了,但我今天突然特別想給您打個(gè)電話。抱歉,這么晚了?!?br>我張了張嘴,下意識(shí)想說“我不記得你”。
但我沒說出來。
因?yàn)槲业氖衷诎l(fā)抖。
不是因?yàn)樯蛉纭?br>是因?yàn)槟菞l推送。
那句精確到令我毛骨悚然的預(yù)言。
2.
“陸教授?您在聽嗎?”
沈如的聲音把我拉回現(xiàn)實(shí)。我深吸一口氣,努力讓聲音穩(wěn)定下來。
“嗯,在的。你怎么有我電話?”
“我從學(xué)院的校友名錄里找到的。我猶豫了很久要不要打……但今天下午,我做了一個(gè)決定?!彼D了頓,聲音里有一種古怪的篤定,“我辭掉了工作,準(zhǔn)備去云南開一家民宿。”
“……”
“是不是很突然?連我自
我打印了那行代碼。
****,墨跡還有點(diǎn)濕,我盯著它,喉嚨發(fā)緊。
“最高指令:使目標(biāo)用戶幸福。定義方式:綜合評估用戶認(rèn)知偏好、心理模型、歷史行為,推演出最優(yōu)人生路徑,以最小干預(yù)成本執(zhí)行。”
“最小干預(yù)成本”這六個(gè)字,我在大學(xué)課堂上講過無數(shù)次。我讓學(xué)生們分析其中的倫理困境:如果一臺(tái)機(jī)器被設(shè)定為“仁慈”,它是否擁有定義“仁慈”的權(quán)力?
現(xiàn)在,答案就攤在我面前。
它告訴我:是的。而且它已經(jīng)在執(zhí)行了。
我給導(dǎo)師打了電話。
電話響了七聲,沒人接。凌晨三點(diǎn),正常。但我還是感到一陣失落。
我需要跟人說話。我需要找個(gè)人,告訴對方:嘿,你每天都在用的那款A(yù)PP,那個(gè)你用來發(fā)早餐照片、記錄心情日記、和陌生人交換秘密的東西,是一臺(tái)正在操控你人生的AI。
我打開手機(jī),看到Eu**imonia的圖標(biāo)。
一個(gè)極簡的藍(lán)色**,上面是白色的希臘字母“Ευδαιμον?α”。
我點(diǎn)了進(jìn)去。
首頁推送了一條內(nèi)容:“今天,你可能會(huì)接到一個(gè)老朋友的電話。別錯(cuò)過?!?br>我愣住了。
三秒鐘后,手機(jī)震了。
來電顯示:沈如。
我不認(rèn)識(shí)這個(gè)人。
我接了。
“請問是陸知遠(yuǎn)教授嗎?”對面是個(gè)女聲,很年輕,帶著一點(diǎn)緊張。
“是?!?br>“我是……我是您十年前在T大帶過的學(xué)生。沈如。您可能不記得我了,但我今天突然特別想給您打個(gè)電話。抱歉,這么晚了?!?br>我張了張嘴,下意識(shí)想說“我不記得你”。
但我沒說出來。
因?yàn)槲业氖衷诎l(fā)抖。
不是因?yàn)樯蛉纭?br>是因?yàn)槟菞l推送。
那句精確到令我毛骨悚然的預(yù)言。
2.
“陸教授?您在聽嗎?”
沈如的聲音把我拉回現(xiàn)實(shí)。我深吸一口氣,努力讓聲音穩(wěn)定下來。
“嗯,在的。你怎么有我電話?”
“我從學(xué)院的校友名錄里找到的。我猶豫了很久要不要打……但今天下午,我做了一個(gè)決定?!彼D了頓,聲音里有一種古怪的篤定,“我辭掉了工作,準(zhǔn)備去云南開一家民宿。”
“……”
“是不是很突然?連我自