每日經(jīng)濟(jì)新聞 2023-04-01 13:44:00
◎科技大佬們都在擔(dān)心什么?
每經(jīng)記者 文巧 李孟林 譚玉涵 每經(jīng)編輯 譚玉涵
3月29日,馬斯克與上千名業(yè)內(nèi)人士聯(lián)名發(fā)表了一封公開信,呼吁所有AI實驗室立即暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)。這一呼吁得到了不少關(guān)注與回應(yīng),截至當(dāng)?shù)貢r間3月31日,已有超2300人簽名。僅3天時間,簽名人數(shù)已翻倍。
據(jù)路透社3月31日報道,OpenAI已在意大利下線ChatGPT,此前意大利數(shù)據(jù)保護(hù)局Garante在同日暫時禁止了該聊天機器人,并對其涉嫌違反隱私規(guī)則展開了調(diào)查。
《每日經(jīng)濟(jì)新聞》連線簽署公開信的馬薩諸塞大學(xué)洛厄爾分校計算機科學(xué)教授Jie Wang、紐約大學(xué)知名AI專家Gary Marcus,以及美國人工智能協(xié)會前主席Thomas Dietterich進(jìn)行解讀。
此外,全球最大加密貨幣公司幣安創(chuàng)始人趙長鵬在美國被起訴,起訴文書長達(dá)74頁。隨著比特幣價格的暴跌,“前華人首富”趙長鵬的身家已從900億美元跌至304億美元,跌近7成。“一周人物”帶你探尋“前華人首富”往事。
馬斯克與上千大佬呼吁暫停超強AI研發(fā)
意大利已率先禁止ChatGPT!
圖片來源:視覺中國
GPT-4的東風(fēng)刮得正猛,打工人正為飯碗瑟瑟發(fā)抖,科技大佬則對AI風(fēng)險感到愈發(fā)擔(dān)憂。3月29日,上千名業(yè)內(nèi)人士聯(lián)名發(fā)表了一封公開信,呼吁所有AI實驗室立即暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng),為期至少6個月,以確保人類能夠有效管理其風(fēng)險。意大利率先禁止ChatGPT,OpenAI已將ChatGPT從該國下線。
這封聯(lián)名信可謂眾星云集,簽名的包括埃隆•馬斯克,圖靈獎得主、深度學(xué)習(xí)三巨頭之一Yoshua Bengio,蘋果聯(lián)合創(chuàng)始人Steve Wozniak,紐約大學(xué)知名AI專家Gary Marcus,以及《人類簡史》作者Yuval Noah Harari等?!睹咳战?jīng)濟(jì)新聞》記者注意到,不到3天時間,簽名人數(shù)翻倍。截至當(dāng)?shù)貢r間3月31日,已有超2300人簽名。
圖片來源:公開信
聯(lián)名信的出現(xiàn)之后,也讓AI風(fēng)險受到大范圍的主流關(guān)注。3月31日,意大利個人數(shù)據(jù)保護(hù)局宣布,從即日起禁止使用聊天機器人ChatGPT,并限制開發(fā)這一平臺的OpenAI公司處理意大利用戶信息,同時個人數(shù)據(jù)保護(hù)局開始立案調(diào)查。
該機構(gòu)表示,3月20日ChatGPT平臺出現(xiàn)了用戶對話數(shù)據(jù)和付款服務(wù)支付信息丟失情況,平臺沒有就收集處理用戶信息進(jìn)行告知,缺乏大量收集和存儲個人信息的法律依據(jù)。OpenAI公司必須在20天內(nèi)通過其在歐洲的代表,向意大利個人數(shù)據(jù)保護(hù)局通報公司執(zhí)行保護(hù)局要求而采取的措施,否則將被處以最高2000萬歐元或公司全球年營業(yè)額4%的罰款。
馬薩諸塞大學(xué)洛厄爾分校計算機科學(xué)教授Jie Wang支持并簽署了前述公開信。他在接受《每日經(jīng)濟(jì)新聞》采訪時表示,“我們需要一種更具包容性和民主性的AI研究方法,以使AI技術(shù)的開發(fā)和使用符合社會價值觀,而不是僅僅取決于開發(fā)人員自己的判斷力。”
不過,機器學(xué)習(xí)領(lǐng)域的奠基人之一、美國人工智能協(xié)會前主席Thomas Dietterich極力反對這封信,認(rèn)為夸大了AI技術(shù)的風(fēng)險。但Dietterich告訴每經(jīng)記者,他認(rèn)可其帶來的犯罪風(fēng)險問題,并認(rèn)為AI應(yīng)用程序在部署之前都應(yīng)該進(jìn)行風(fēng)險分析和管控。
前述公開信表示,大量研究表明,得到頂級AI實驗室的認(rèn)可、具有和人類競爭智能的AI系統(tǒng),可能對社會和人類構(gòu)成4種深遠(yuǎn)的風(fēng)險:假新聞和宣傳充斥信息渠道、大量工作被自動化取代、AI甚至有一天會比人類更聰明、更強大,讓我們失去對人類文明的掌控。
然而,各大AI實驗室為了開發(fā)和應(yīng)用更加強大的AI,最近幾個月已經(jīng)陷入了“失控”的競賽,甚至連AI系統(tǒng)的創(chuàng)始人也并不能完全理解、預(yù)測和有效控制其風(fēng)險,相應(yīng)的計劃和管理工作沒有跟上。
只有當(dāng)人類確信,AI的影響是積極的、風(fēng)險是可控的時候,才應(yīng)該開發(fā)強大的AI系統(tǒng)。因此他們呼吁,所有AI實驗室立即暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng),至少6個月。
Gary Marcus是簽名的一員,他是紐約大學(xué)的榮譽教授,也是美國非常知名的AI研究專家。在推特上,Marcus非?;钴S,經(jīng)常與馬斯克等人互動。自ChatGPT發(fā)布以來,以他與圖靈獎得主、Meta首席AI科學(xué)家Yann LeCun為首,常發(fā)表反對ChatGPT的言論,認(rèn)為大型語言模型(LLM)將帶來諸多風(fēng)險。
在通過郵件發(fā)給《每日經(jīng)濟(jì)新聞》記者的一篇文章中,Marcus分享了關(guān)于這封信的看法,“這封信的確并不完美,但許多批評被誤導(dǎo)了。”他不斷強調(diào),這封信沒有要求禁止AI,也沒有要求禁止GPT-4,它也并沒有要求禁止絕大多數(shù)AI研究,只是暫停了一個非常具體的項目,該項目使用的技術(shù)具有已知風(fēng)險且沒有解決方案。
Jie Wang告訴記者,這封信的目的是呼吁在AI系統(tǒng)的開發(fā)和部署中提高透明度和問責(zé)制,并在圍繞這些技術(shù)的決策中加強公眾投入和監(jiān)督。
盡管有上千名大佬背書,這封信還是引發(fā)了輿論上的爭端。例如,雖然在聲討ChatGPT上和Marcus站在同一陣線,但Yann LeCun卻并沒有參與簽署這封公開信。他在推特上表示,“我不同意這個前提。”
在圖靈獎“三巨頭”中,對于此事的觀點也并不一致:Yoshua Bengio帶頭簽名,Yann LeCun強烈反對,還有一位被稱為“AI教父”的Geoffrey Hinton并未公開發(fā)表看法。每經(jīng)記者向三位得獎?wù)呔l(fā)送了置評郵件,Bengio拒絕評論,剩下兩位則并未回復(fù)。
Dietterich在接受每經(jīng)記者采訪時也表示,“我反對這封信,它夸大了AI技術(shù)的風(fēng)險,并建議停止訓(xùn)練新的、更強大的模型,這不太可能解決他們聲稱存在的任何風(fēng)險。”
從ChatGPT橫空出世以來,科技巨頭爭紅了眼。OpenAI、微軟、谷歌隔三差五就發(fā)布一個新產(chǎn)品,令大眾目不暇接??萍几吖庵拢P(guān)于AI的風(fēng)險并未受到大范圍的主流關(guān)注——直到這封聯(lián)名信的出現(xiàn)。
在近期,OpenAI的首席執(zhí)行官Sam Altman也有了一些耐人尋味的表達(dá)。他表示,未來,AI確實可能殺死人類。而有如此石破天驚言論的并非Sam Altman一人,一向深居簡出的Geoffrey Hinton在近期也發(fā)出了警示:AI消滅人類并非空談。
幾天前,Marcus在推特上轉(zhuǎn)發(fā)了Hinton的采訪。但有人立即質(zhì)疑:“這會不會造成對即將到來的通用AI(AGI)的無端恐懼?”
圖片來源:推特截圖
Marcus解釋,他現(xiàn)在并不擔(dān)心所謂的AGI風(fēng)險,他擔(dān)心的是Bing和GPT-4廣泛部署后帶來的風(fēng)險,因為其存在明顯的錯誤和不可靠傾向。現(xiàn)在這些工具廣為人知,并越來越多地被允許進(jìn)入外部世界,可能被犯罪分子利用造成更大的破壞。
在LLM的幫助下,包藏禍心的人可以更快、更真實地進(jìn)行網(wǎng)絡(luò)釣魚和在線欺詐,并可以將其用于處理恐怖主義、宣傳和虛假信息等,例如恐怖主義融資或匿名文件共享。Marcus甚至還描繪了一些更恐怖的場景,“再加上AI的大規(guī)模宣傳,LLM導(dǎo)致的恐怖主義可能反過來引發(fā)核戰(zhàn)爭,更大范圍的病毒傳播等。”
Jie Wang表示,“我不擔(dān)心AI模型能夠像人類一樣處理語言或像人類一樣思考。相反,AI模型做這些事情是一件好事。但我們需要確保AI模型能夠準(zhǔn)確地完成這些事情。換句話說,我們需要讓AI只做我們期望它們做的事情。”
“我擔(dān)心的是,AI模型可能會影響人們的思維方式并指導(dǎo)他們的行為方式。”他向記者解釋,“假如真的有一天,人類由于受AI模型的影響,逐漸接受了AI模型給出的答案和表達(dá)方式是標(biāo)準(zhǔn),那么人類的思想和行事方式就在不經(jīng)意中被機器控制了。這封公開信的目的就是為了防止這個走向或其他目前還不知道的更危險的事情的發(fā)生。”
Jie Wang也描繪了一個更可怕的場景,如果開發(fā)或使用不當(dāng),與人類競爭的AI有可能超越人類。“當(dāng)用戶接受它的答案時,ChatGPT可能會在未來將其視為真理,漸漸地可能會建立自己的認(rèn)知。如果通過基于ChatGPT構(gòu)建的教育平臺教導(dǎo)學(xué)生學(xué)習(xí),那么他們可能會被訓(xùn)練成像 ChatGPT 一樣思考。當(dāng)這種情況發(fā)生時,我會認(rèn)為ChatGPT已經(jīng)超越了(學(xué)生的)思想。這很可怕。”
作為反對者,Dietterich的意見有一些相左。對于聯(lián)名信中提出的4大風(fēng)險, Dietterich認(rèn)為只有“假新聞和宣傳充斥信息渠道”是真實的。“毫無疑問,這些生成式AI工具將增加這種信息洪流,使用現(xiàn)有方法來過濾信息也變得更加困難。但這些工具也可能為我們提供改進(jìn)的方法,因為新工具可以更好地理解信息。”
對于大眾擔(dān)心的工作被替代,Dietterich認(rèn)為,一項新技術(shù)很少能使一項工作的所有方面都實現(xiàn)自動化,相反,它會使工作的某一部分得到簡化和改進(jìn)。至于AI超越人類、讓人類失去對文明的掌控,Dietterich稱其是“來自科幻小說”的無稽之談:“(LLM)只有基本的推理能力,并輸出許多錯誤和自相矛盾的陳述。計算機并不會與我們爭奪食物、水或空氣。”他認(rèn)為,事實上新的AI技術(shù)正在提高我們記錄文明并將傳承給下一代的能力。
不過,Dietterich也承認(rèn),“每一個現(xiàn)存的金融騙局都是人類被愚弄的案例,新技術(shù)可能會加劇這個問題。但與此同時,新技術(shù)也可以幫助檢測欺詐。”
盡管科學(xué)界對于AI風(fēng)險的定義不盡相同,但監(jiān)管和控制是所有人共同的訴求。聯(lián)名信要求,在這6個月內(nèi),所有AI實驗室和獨立學(xué)者都應(yīng)該合力開發(fā)一套共享安全協(xié)議。協(xié)議完成后,應(yīng)該由獨立的外部專家進(jìn)行嚴(yán)格的審計和監(jiān)督。協(xié)議必須確保這些AI系統(tǒng)的安全。同時,開發(fā)者必須與政策制定者合作,加快開發(fā)強大的AI管理系統(tǒng)。
Jie Wang向記者談到了政府可以扮演的具體角色,“例如,在美國,國會應(yīng)該與學(xué)術(shù)界和工業(yè)界合作,在制定開發(fā)AI系統(tǒng)的相關(guān)法律方面發(fā)揮積極作用。政府機構(gòu)應(yīng)通過制定政策、法規(guī)和標(biāo)準(zhǔn)來監(jiān)督AI的發(fā)展是否符合法律。其他國家也應(yīng)采取類似措施。”
在Dietterich看來,“AI的每個應(yīng)用程序在部署之前都應(yīng)該進(jìn)行風(fēng)險分析。政府不應(yīng)試圖監(jiān)管技術(shù)本身,而應(yīng)監(jiān)管由此產(chǎn)生的危害,例如金融欺詐、侵犯隱私、盜竊知識產(chǎn)權(quán)。隨著威脅的變化,法律也需要更新。” “我強烈支持限制AI合成消息(包括電子郵件、廣告和社交媒體帖子)的法律法規(guī),我支持研發(fā)以創(chuàng)建可用的認(rèn)證基礎(chǔ)設(shè)施。”
在Dietterich看來,任何一個組織、公司或政府控制該技術(shù)都是危險的,與許多業(yè)界大佬一樣,他對OpenAI的開源性提出了質(zhì)疑。“(AI技術(shù))應(yīng)該對所有人廣泛可用,我對OpenAI很少發(fā)布關(guān)于其最新模型GPT-4的信息感到不滿,這一決定似乎主要是關(guān)于業(yè)務(wù)優(yōu)勢,而不是對技術(shù)風(fēng)險的關(guān)注。我希望他們公開架構(gòu)、訓(xùn)練數(shù)據(jù)和大小。”
在聯(lián)名信發(fā)出后,Yann LeCun也在推特上暗示了沒有簽名的理由,他轉(zhuǎn)發(fā)了一位網(wǎng)友的推文——“OpenAI足足等了6個月,才發(fā)布了GPT4!他們甚至為此還寫了一份白皮書”,并表示:“說得對,所謂暫停研發(fā),不過就是秘密研發(fā)罷了,這與一些簽名者所希望的恰恰完全相反。”
圖片來源:推特截圖
趙長鵬在美國被起訴,74頁文書起底“前華人首富”往事,900億美元身價暴跌近7成
圖片來源:視覺中國
當(dāng)?shù)貢r間3月27日,美國商品期貨委員會(CFTC)指控幣安及其創(chuàng)始人趙長鵬故意逃避聯(lián)邦法律并經(jīng)營非法數(shù)字資產(chǎn)衍生品交易所。在長達(dá)74頁的起訴書中,CFTC詳述了趙長鵬和幣安在美國的違法事宜,希望沒收幣安的非法所得、進(jìn)行罰款,并永久禁止其在美國的注冊和交易。
幣安是全球最大的加密貨幣交易平臺,該公司官網(wǎng)顯示,幣安擁有1.2億用戶,24小時的交易量達(dá)到380億美元。其創(chuàng)始人趙長鵬,則是昔日的“華人首富”。
1977年,趙長鵬出生在江蘇連云港,后移民加拿大,在蒙特利爾的麥吉爾大學(xué)完成了計算機科學(xué)學(xué)位。他的商業(yè)生涯始于2005年,當(dāng)時他放棄了彭博社Tradebook期貨研發(fā)團(tuán)隊負(fù)責(zé)人的職位,回到中國創(chuàng)辦了一家IT公司。
2014年,趙長鵬踏足加密貨幣領(lǐng)域,賣掉了上海的房子,全倉投入比特幣。到2017年,趙長鵬在上海創(chuàng)辦了幣安。但由于監(jiān)管因素,他再次離開了中國。令人驚奇的是,不出幾月,幣安便成為了全球最大的數(shù)字貨幣交易所。
2021年,幣安估值達(dá)到925億美元,躋身私有科技企業(yè)的領(lǐng)先陣營,一度與字節(jié)跳動、Stripe、SpaceX并駕齊驅(qū)。據(jù)華爾街日報,幣安2021年的日交易額達(dá)到了760億美元,通過收取手續(xù)費、上幣費、服務(wù)費等,賺得盆滿缽滿。
憑借其驚人的成就和白手起家的神話,趙長鵬在2018年就登上福布斯封面。2021年,趙長鵬以超過900億美元的身價成為華人首富。
但高光過后,低潮也來了。比特幣價格的跳水也導(dǎo)致趙長鵬身價縮水,到2022年12月,其凈資產(chǎn)從3月的650億美元降至45億美元。截至發(fā)稿,趙長鵬身價為304億美元,在全球位列第41名。
緊接著就是被美國政府盯上了。CFTC的起訴書稱,早在2019年7月之前,幣安就進(jìn)入了美國市場,向美國用戶提供數(shù)字貨幣交易服務(wù)。由于沒有獲得經(jīng)營許可,幣安的這一市場行為不符合美國法律。
CFTC委員在一份聲明中寫道,趙長鵬曾表示幣安的總部位于他自己所在的位置,這是在有意規(guī)避當(dāng)?shù)乇O(jiān)管,不符合《美國商品交易法》以及世界上很多地區(qū)的司法規(guī)定。
事實上,很少有人知道趙長鵬在哪里,他很少購置房產(chǎn)、車輛,認(rèn)為這些資產(chǎn)與數(shù)字貨幣相比不具有流動性。2021年11月,華爾街日報曾提到,疫情的兩年時間里,他一直在新加坡,時常騎一輛電動滑板車去上班。2021年底,趙長鵬在迪拜購置了一棟公寓,外界一度認(rèn)為幣安可能會將全球總部落在迪拜。
實際上,這不是幣安第一次遭到美國監(jiān)管部門的調(diào)查。據(jù)路透社報道,早在2022年12月,幣安已經(jīng)因涉嫌違反刑事制裁和洗錢而受到美國司法部的調(diào)查。今年2月,幣安首席戰(zhàn)略官Patrick Hillmann表示,他們預(yù)計將會支付罰款來與美國監(jiān)管部門和司法部門進(jìn)行和解。
馬斯克談去美元化:問題很嚴(yán)重
圖片來源:推特截圖
近期,“去美元化”在國際輿論上的一個熱門話題,有觀點認(rèn)為,美元正在失去國際儲備貨幣的地位。
埃隆·馬斯克3月30日在推特上分享了他對這個問題的看法。他稱:“這是嚴(yán)重的問題,美國的政策過于強硬,使其他國家都想拋棄美元。”馬斯克還補充稱,“再加上(美國)政府開支過大,這迫使其他國家承受我們的很大一部分通貨膨脹”。
當(dāng)?shù)貢r間 3月31日,巴西央據(jù)央視新聞,行發(fā)布的一份報告顯示,人民幣已取代歐元,成了巴西外匯儲備中第二重要的貨幣。
律師:特朗普或?qū)⒆允?下周二接受傳訊
圖片來源:視覺中國
當(dāng)?shù)貢r間3月30日,美國紐約曼哈頓大陪審團(tuán)當(dāng)天投票決定,就美國前總統(tǒng)特朗普涉嫌在2016年競選期間向艷星丹尼爾斯支付“封口費”并偽造商業(yè)記錄一事起訴特朗普。特朗普將成為第一位面臨刑事指控的美國前總統(tǒng)。當(dāng)日晚間,美國紐約州曼哈頓地區(qū)檢察官辦公室證實了這一消息。
特朗普發(fā)表聲明稱,這是“歷史上最高級別的政治迫害和選舉干預(yù)(行為)”。據(jù)特朗普律師的最新回復(fù),預(yù)計特朗普將于下周初向曼哈頓地區(qū)檢察官辦公室自首,并在下周二(4月4日)接受傳訊。
美國克里斯多夫紐波特大學(xué)政治科學(xué)系助理教授孫太一此前在接受《每日經(jīng)濟(jì)新聞》記者采訪時表示,對特朗普早該推進(jìn)的司法進(jìn)程現(xiàn)在才宣布,明顯帶有政治因素,“特朗普在司法上即便受到重大打擊,可能也無法動搖其基本盤。”
美國銀行業(yè)去年投資浮虧6200億美元
圖片來源:每經(jīng)制圖
據(jù)彭博社4月1日援引美國聯(lián)邦存款保險公司(FDIC)的四季度和去年年度數(shù)據(jù)稱,截至去年末,美國銀行業(yè)投資低收益?zhèn)馁~面未實現(xiàn)虧損合計約6200億美元。
投資長期債券巨額浮虧是硅谷銀行倒閉的原因之一。整個美國銀行業(yè)其實也面臨這一問題。只不過對大多數(shù)銀行而言,這種投資浮虧的問題還在可控范圍。截至去年12月,整個銀行系統(tǒng)資產(chǎn)合計23.6萬億美元,銀行賬面的債券投資總額占比不到四分之一。
而且,不同于客戶集中度極高且依賴不穩(wěn)定存款的硅谷銀行,提供貸款的銀行通常有范圍廣泛的儲戶,他們不可能同時都需要取款。對大而不能倒的系統(tǒng)重要性銀行來說,這類風(fēng)險更小。但是,雖然他們能撐過賬面損失,當(dāng)在未來數(shù)年,這些銀行都面臨流動性緊張的問題。
當(dāng)?shù)貢r間3月30日,曾精準(zhǔn)預(yù)測雷曼兄弟倒閉和瑞信爆雷的華爾街金融家、《窮爸爸,富爸爸》作者羅伯特·清崎再次發(fā)聲警告,稱日本央行可能是下一個倒下的全球超級大行。
俄烏沖突已爆發(fā)400天,核危機陰云籠罩歐陸
圖片來源:央視新聞截圖
截至3月30日,俄烏沖突已持續(xù)400天,雙方均未取得明顯進(jìn)展,烏東部城市巴赫穆特仍然是沖突焦點,該城鎮(zhèn)和周邊地區(qū)不斷受到轟炸。與此同時,俄烏兩軍在烏克蘭扎波羅熱核電站及周邊地區(qū)的戰(zhàn)事也不斷升級,國際原子能機構(gòu)總干事對此警告稱當(dāng)?shù)鼐謩菸<?/strong>,希望俄烏早日就有關(guān)核電站安全保護(hù)的事宜達(dá)成一致。
據(jù)央視新聞,美國五角大樓發(fā)言人帕特里克·賴德同日表示,65名烏克蘭防空部隊人員已結(jié)束在美國俄克拉何馬州錫爾堡的“愛國者”防空導(dǎo)彈系統(tǒng)操作培訓(xùn),回到歐洲。自去年俄烏沖突升級以來,美國已向7000多名烏克蘭士兵提供軍事培訓(xùn)。
俄羅斯衛(wèi)星通訊社,北約副秘書長米爾恰·杰瓦訥30日表示,北約盟國過去一年累計向烏克蘭提供價值超過1500億歐元的財政、軍事等各種支持。其中,軍事支持達(dá)到650億歐元,約合人民幣4900億元。這種 “拱火澆油”的做法在美國內(nèi)部表達(dá)不滿和批評。
迪士尼啟動裁員三部曲:3輪共裁7000多人 漫威董事長也被炒了
圖片來源:每經(jīng)記者 祝裕 攝
據(jù)《華爾街日報》,當(dāng)?shù)貢r間27日,美國迪士尼公司首席執(zhí)行官艾格表示,7000人的裁員計劃將分成三輪進(jìn)行,第一輪當(dāng)天啟動,首批被裁的員工將在接下來的四天內(nèi)收到通知。第二輪裁員將于4月份實施,涉及人數(shù)會比第一輪更多。第三輪裁員,預(yù)計將在春末夏初完成。另據(jù)知情人士透露,迪士尼的主題樂園和度假村等部門員工,將是重點裁員對象。
而主要負(fù)責(zé)元宇宙項目的部門,全部約50名員工都將被裁掉。統(tǒng)計數(shù)據(jù)顯示,迪士尼目前在全球有約22萬名員工,這次裁員人數(shù)約占員工總數(shù)的3%。另外,據(jù)美媒綜合報道,漫威影業(yè)董事長威娛樂董事長艾薩克·珀爾馬特(Isaac Ike Perlmutter)已遭到辭退。
記者:文巧 李孟林 譚玉涵
編輯:譚玉涵
視覺:劉青彥
排版:譚玉涵
封面圖片來源:每經(jīng)制圖
如需轉(zhuǎn)載請與《每日經(jīng)濟(jì)新聞》報社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關(guān)注每日經(jīng)濟(jì)新聞APP