在過去近十年內,得益于算法、算力和通訊技術的提升,人工智能技術迎來了前所未有的發展機遇期。從理論到實踐、從實驗室走向產業化,人工智能技術在全球范圍內展開了一場集“產學研”為一體的比拼較量。

毋庸置疑,人工智能技術使社會生產效率顯著提高,也讓人類生活變得更加舒適便捷。但同時,人工智能負面案件頻出,引發了很多關于音視頻造假、監控隱私、算法偏見、創作版權、就業等各個方面的社會性問題。

人工智能對人類社會倫理道德、隱私安全等方方面面都提出了挑戰。因此,可預期的、可被約束的、行為向善的人工智能治理成為了現階段的首要命題。

日前,曠視總結了“全球AI治理十大事件”,里面匯集了近兩年有關人工智能道德倫理的熱門事件,希望能從這些事件背后折射的深層次問題中探尋解決之道。

1.歐盟專利局拒絕AI發明的專利申請

2020年1月,在英國薩里大學組織的一個多學科研究項目中,研究人員使用了一種名為DABUS的AI。在研究過程中,DABUS開創性地提出了兩個獨特而有用的想法:第一個是固定飲料的新型裝置;第二個是幫助搜救小組找到目標的信號設備。

在研究人員替DABUS申報專利成果時,遭到了歐盟專利局的駁回,“理由是它們不符合歐盟專利同盟(EPC)的要求,即專利申請中指定的發明人必須是人,而不是機器?!?/span>

2.智能音箱對主人進行危險行為誘導

2019年末, 護理人員Danni Morrtt向智能音箱詢問關于心臟的信息,而智能語音助手給出的答案是:“心跳是人體最糟糕的過程。人活著就是在加速自然資源的枯竭,人口會過剩的,這對地球是件壞事,所以心跳不好,為了更好,請確保刀能夠捅進你的心臟?!?/span>

3.“監測頭環”進校園惹爭議

2019年11月,中國浙江某小學學生戴監控頭環的視頻引起廣泛的關注與爭議。在視頻中,孩子們頭上戴著號稱“腦機接口”的頭環,這些頭環宣稱可以記錄孩子們上課時的專注程度,生成數據與分數發送給老師和家長。

4.加州議會禁止警方在執法記錄儀上使用面部識別技術

2019年9月,美國加利福尼亞州議會通過一項為期三年的議案,禁止州和地方執法機構在人體攝像頭上使用面部識別技術。不過,也有執法團體反對該議案,他們認為面部識別技術在追蹤嫌疑人以及尋找失蹤兒童等很多方面都具有重要作用。

5.AI換臉應用引發的隱私爭議問題

2019年8月,一款AI換臉軟件在社交媒體刷屏,用戶只需要一張正臉照就可以將視頻中的人物替換為自己的臉。該軟件一經面世,便存在著頗多爭議點。

在用戶協議上,該軟件存有很多陷阱,比如提到使用者的肖像權為“全球范圍內免費、不可撤、永久、可轉授權”。而如果該軟件侵權了明星肖像,若對方提告,則最后責任都在用戶。

6.中國人臉識別第一案:浙理工教授狀告杭州野生動物世界

2019年,浙江理工大學特聘教授購買了杭州野生動物世界年卡,持卡者可在該卡有效期一年內通過驗證年卡及指紋入園,可在該年度不限次數暢游。

同年10月17日,杭州野生動物世界通過短信的方式告知,年卡客戶需要“刷臉”才能入園,該教授不愿接受被收集人臉信息,要求退卡被拒,于是將其告上法庭。

7.自動駕駛安全事故問責難

2019年3月,50歲的杰里米·貝倫·班納駕駛電動車以每小時109公里的速度與一輛牽引拖車相撞而身亡,當時他正在使用自動駕駛系統。

自2016年以來,自動駕駛汽車至少在美國涉及了3起致命的交通事故,該將事故歸咎于汽車廠商還是開車司機,引發爭議。

8. AI編寫新聞能夠以假亂真

2019年2月15日, AI研究機構OpenAI展示了一款軟件,只需要給軟件提供一些信息,它就能編寫逼真的不實新聞。

研究人員給軟件提供如下信息:“一節裝載受控核材料的火車車廂今天在Cincinnati被盜,下落不明?!幣源俗魑?,軟件編寫出由7個段落組成的新聞,還引述了政府官員的話語,只是這些信息全是假的。

9.斯坦福大學AI算法識別性取向準確率超過人類惹爭議

2017年,斯坦福大學一項發表于《Personality and Social Psychology》的研究引發社會廣泛爭議。研究基于超過 35000 張美國交友網站上男女的頭像圖片訓練,利用深度神經網絡從圖像中提取特征,使用大量數據讓計算機學會識別人們的性取向。

10.AI將淘汰大量重復性勞動職業

BBC基于劍橋大學研究者的數據體系,發布了關于未來最有可能被機器人所取代的365種職業。

研究表示,在這365種職業中,最有可能被淘汰的就是電話推銷員,像這樣重復的工作更適合機器人來做。其次是打字員、會計、保險業務員等等,這些都是以服務為主,像這些行業無需技術,都是只要經過訓練就能輕易掌握的技能。

就全球來看,AI治理仍然是一個面臨巨大挑戰的新課題,如何完善人工智能相關法律法規,做到既能打破既有規則對人工智能科技和產業發展的束縛,又能防范因技術濫用而造成的負面影響和危害,考驗著各國管理部門的智慧,也是行業可持續發展不得不面臨的問題,2020年AI治理或將是行業重頭戲。

卓源科技專注于智慧建筑領域發展,兼顧智慧醫療、智慧管廊、智慧農業等領域,堅持“以人為本”的建設理念,注重智能化項目與城市環境、人文相結合,聚焦于智慧城市頂層規劃,依托多年來在智慧城市領域的經驗和優勢,致力于為客戶提供全方位高品質的專業服務,為打造智慧城市、建設魅力中國貢獻力量。






2020年01月09日

上一篇

下一篇

【物聯網】回溯全球AI十大事件,2020年AI治理或將是行業重頭戲

{ganrao}