谷歌CEO皮查伊：擔憂AI做壞事很合理，不能先創造再完善
據《華盛頓郵報》報道，全球領先的人工智能公司谷歌首席執行官桑達爾·皮查伊(Sundar Pichai)本周接受采訪時表示，對人工智能技術被濫用的擔憂是“非常合理的”，但同時應該相信科技行業能夠負責任地規范好該技術的使用。
谷歌CEO：擔憂AI做壞事很合理，不能先創造再完善
桑達爾·皮查伊周二下午在接受采訪時表示，新的人工智能工具，比如無人駕駛汽車和疾病檢測算法等，都要求科技公司設置道德護欄并思考什么是對該技術的濫用。
“我認為科技公司必須意識到不能先創造人工智能工具，然后再去完善它，”皮查伊說，“我認為這樣是行不通的。“
同時皮查伊表示，科技巨頭必須確保人工智能與其應用不會對人類造成危害。 他說，他對人工智能的長期益處持樂觀態度，但他對人工智能潛在風險的評估與一些科技批評人士的觀點一致。這些批評人士認為，人工智能可能會被用于侵入性監控的授權、致命武器和錯誤信息的傳播。SpaceX和特斯拉(Tesla)創始人埃隆·馬斯克(Elon Musk)以及其他一些科技公司的高管甚至做出了更可怕的預測，稱人工智能可能”比核武器危險得多”。
人工智能技術支撐著谷歌的方方面面，很多業務都離不開人工智能技術。而最近，谷歌如何部署人工智能的決定也引發了員工動蕩。
在皮查伊呼吁科技公司自我監管之前，曾出席國會聽證會，當時立法者威脅要對技術施加限制以應對技術濫用現象-包括使用科技傳播錯誤信息和仇恨言論。 如今，皮查伊承認AI構成的潛在威脅，這非常關鍵，因為這位出生于印度的工程師經常吹噓自動化系統的世界形態，這些系統可以在沒有人為控制的情況下學習和做出決策。
皮查伊在采訪中表示，世界各地的立法者仍在努力掌握AI的影響以及政府監管的潛在需求。他說道： “有時我擔心人們低估了中長期可能出現的變化規模，我認為這些問題實際上非常復雜。”包括微軟在內的其他科技巨頭，最近也接受了對AI的監管，這種監管既來自于創建該技術的公司，也來自于監督AI使用的政府部門。
同時皮查伊表示，如果處理得當，AI可以帶來“巨大的好處”，包括幫助醫生通過自動掃描健康數據來檢測眼疾和其他疾病。 他說：“在早期，對技術進行監管非常困難，但我確實認為公司應該自我監管，這也是為什么我們想要努力闡明一套AI原則。 可能并不是我們做的每一件事都是正確的，但我們認為開始對話很重要。”
皮查伊于2004年加入谷歌，11年后成為首席執行官，1月份曾稱AI是“人類正在為之努力的最重要的事情之一”，并稱AI對人類社會的影響可能會被證明比 “電力”的影響更“深刻”。但是，對自動化機器的追求，重新引發了人們對于硅谷的企業精神的擔憂，這種企業精神-像Facebook曾經說過的那樣，“快速行動，打破現狀”-可能會導致強大的、不完美的技術取代眾多就業崗位，傷害人們。
在谷歌內部，其在人工智能方面的努力也引發了爭議。今年早些時候，該公司曾因在一份涉及人工智能的國防部合同中所做的工作而受到嚴厲批評，該合同中的AI技術可以自動為汽車、建筑和其他用于軍用無人機的物品貼上標簽。一些員工辭職是因為他們認為谷歌在從“戰爭業務”中獲利。
當被問及員工的強烈反對態度時，皮查伊告訴記者，谷歌員工是“我們文化的重要組成部分。他們肯定會有自己的意見，非常重要的意見，我非常珍視這些意見。”
今年6月，皮查伊宣布谷歌明年不再續簽與國防部的合同后，公布了一系列人工智能道德原則，其中包括了一般禁止開發系統，這些系統可能會造成傷害，損害人權或被用于違反國際公認準則的監視行為。
谷歌在2015年發布其內部機器學習軟件TensorFlow，有助于加速人工智能的廣泛開發，但它同時也被用于自動創建騷擾和逼真虛假視頻。這使谷歌備受批評。
谷歌和皮查伊為該軟件的發布進行了辯護，他們說，限制技術的使用可能會導致公眾監督的減少，并阻止開發人員和研究人員以有益的方式提高其能力。
皮查伊在接受采訪時表示：“隨著時間的推移，當技術不斷進步時，我認為圍繞道德(和)偏見展開對話，同時取得進展是很重要的。”
他說：“從某種意義上，你確實希望建立道德框架，盡早聘請非計算機科學家，以更具代表性的方式讓人類參與其中，因為這項技術將影響人類。”
皮查伊將AI技術早期的圍繞AI設置參數的工作，比作學術界在遺傳學研究早期的努力。 “許多生物學家開始劃定這項技術的發展方向，”他說。 “學術界有很多的自我監管，我認為這一點非常重要。”
這位谷歌高管表示，尤其是在自主武器研發方面，自我監管是至關重要的，這個問題一直困擾著科技高管和員工。今年7月，包括谷歌在內的科技公司數千名技術工人簽署了一項承諾，反對開發可編程殺人的人工智能工具。
皮查伊還說，他在YouTube上發現了一些可恨的、陰謀論的視頻，這些視頻在一些媒體報道中被描述為“令人憎惡的”，他還表示，該公司將致力于改進其系統以檢測有問題的內容信息。這些視頻自今年4月出現以來，在YouTube上被觀看了數百萬次。視頻中包含一些毫無根據的指控，即民主黨人希拉里·克林頓(Hillary Clinton)及其長期助手胡瑪·阿貝丁(Huma Abedin)襲擊、殺害一名女孩并喝了她的血。
皮查伊說，他沒有看過這些他在國會聽證會上也被問及的視頻，并拒絕透露YouTube在這一領域的缺陷是源于檢測系統的限制，還是源于用于評估是否應該刪除特定視頻的政策的限制。但他補充說，“你會看到我們2019年將會繼續在此方面做出更多努力。”【責任編輯/江小白】
(原標題：谷歌CEO：擔憂AI做壞事很合理，不能先創造再完善)
來源：華盛頓郵報
IT時代網(關注微信公眾號ITtime2000，定時推送，互動有福利驚喜)所有原創文章版權所有，未經授權，轉載必究。
創客100創投基金成立于2015年，直通硅谷，專注于TMT領域早期項目投資。LP均來自政府、互聯網IT、傳媒知名企業和個人。創客100創投基金對IT、通信、互聯網、IP等有著自己獨特眼光和豐富的資源。決策快、投資快是創客100基金最顯著的特點。
TA的最新文章
熱門文章
精彩評論
小何華為現在牛的不只是設備商了，，華為的手機現在也是全球銷量不錯，國內也算是老大了，之前用小米，，現在都改華為了。。產品確實不錯。- 小何三星手機在中國還有市場嗎？看看現在滿大街的vivo和oppo ，，華為，，小米線下店，，就是知道三星的市場基本沒有了。。
- 小何滴滴打車現在也沒有之前那么火了，，補貼也少了。。
- 小何今日頭條要把騰訊的地方各頻道給霸占了。。