在未來十年，人工智能有一個領(lǐng)域需要改進(jìn)：透明度。但人工智能將如何應(yīng)對“信任危機(jī)”呢?

[[414520]]

人工智能更像一個黑匣子。只有開發(fā)者知道里面的算法是如何運(yùn)作的，但對于其他人來說，AI的機(jī)制仍然很模糊。企業(yè)希望用戶相信人工智能的運(yùn)行和判斷是完整且準(zhǔn)確的。但如果不了解這些運(yùn)作的來源——哪些數(shù)據(jù)和邏輯構(gòu)成了它們的基礎(chǔ)——就很難讓我們相信人工智能。

隨著人工智能進(jìn)入日常生活，這種透明度的缺乏越來越不可接受。從招聘決定到警察行動，一切都由人工智能決定時，怎么保障其準(zhǔn)確和公平。隨著這些趨勢的繼續(xù)，人工智能提出了關(guān)于偏見、公平和對機(jī)器的信任的難題。例如，亞馬遜開發(fā)的人工智能招聘工具被發(fā)現(xiàn)對女性有偏見。這一發(fā)現(xiàn)表明，這項(xiàng)技術(shù)遠(yuǎn)沒有預(yù)期的那么客觀。

經(jīng)濟(jì)合作與發(fā)展組織(OECD)等機(jī)構(gòu)組織已經(jīng)開始要求提高人工智能的透明度。歐盟通過的具有里程碑意義的《通用數(shù)據(jù)保護(hù)條例》(GDPR)允許個人了解算法如何利用其數(shù)據(jù)。這些都是朝著正確方向邁出的步驟，也清楚地表明了人工智能的發(fā)展方向。但讓人工智能過于透明也存在風(fēng)險。

為什么人工智能在陰影中蓬勃發(fā)展

當(dāng)人工智能變得更透明時，它也更容易被操縱。把它想象成一個保險箱——一旦你揭示了鎖機(jī)制的工作原理，保險箱就會變得更容易被破解。

對于不透明的AI所造成的所有問題，我們很容易想象，當(dāng)AI的內(nèi)部工作方式暴露出來時，也會出現(xiàn)同樣多的問題。一旦糟糕的參與者理解了算法的工作方式，他們就有可能通過輸入人工智能篡改的數(shù)據(jù)集或調(diào)整潛在邏輯來實(shí)現(xiàn)自己想要的結(jié)果。想象一下，如果一位教授公布了給學(xué)生作業(yè)打分的算法的得分代碼。學(xué)生們就可以利用評分系統(tǒng)。

還有一些關(guān)于知識產(chǎn)權(quán)的問題需要考慮。大多數(shù)算法都是由企業(yè)開發(fā)的，它們的工作方式被認(rèn)為是公司的秘密——就像可口可樂的配方一樣。這是一個敏感的問題，呼吁人工智能開發(fā)者將他們的源代碼發(fā)布給專門的監(jiān)管機(jī)構(gòu)，他們可以提供監(jiān)督。

無論最終實(shí)現(xiàn)何種解決方案，有一件事是清楚的：完全透明的人工智能可能會帶來麻煩。要讓這項(xiàng)技術(shù)發(fā)揮作用，有些東西必須是未知的。

未來的人工智能將小心行事

未來的人工智能將在透明和保密之間取得謹(jǐn)慎的平衡。在公共部門、私人部門和消費(fèi)部門之間不可避免的一輪交鋒之后，這種情況將以何種形式出現(xiàn)還有待觀察。不過我們還是可以看到一些端倪。

提高AI的透明度不僅僅是打開大門那么簡單。理解算法實(shí)際上在做什么需要嚴(yán)格的審查。可解釋的人工智能(XAI)利用可解釋的機(jī)器學(xué)習(xí)算法，使人工智能操作員和用戶能夠理解人工智能系統(tǒng)為什么會做出這樣的決定。許多公司已經(jīng)在宣傳他們的機(jī)器學(xué)習(xí)解決方案的可解釋性。美國國防高級研究計劃局(DARPA)已經(jīng)投資了多個研究項(xiàng)目，重點(diǎn)是技術(shù)的環(huán)境適應(yīng)性。這項(xiàng)多年投資是該機(jī)構(gòu)“AI Next”活動的一部分。總體目標(biāo)是開發(fā)可以自動運(yùn)行的人工智能，同時不會讓人擔(dān)心幕后的機(jī)器如何做出決定。

隨著這些工具的激增，用戶將期望他們的數(shù)據(jù)旅程的所有方面都是可解釋的。他們不會要求知道到底發(fā)生了什么，但他們也不會滿足于昨天的黑盒方法。

未來十年，人工智能將在各個方面得到改善，因?yàn)樗鼘⒃絹碓蕉嗟厝谌肴粘Ｉ畹姆椒矫婷妗?/p>

但最大的變化將涉及我們自己的態(tài)度。隨著人工智能獲得了做更多事情的能力——并告訴我們它是如何做到這一點(diǎn)的——我們將很高興地賦予它新的職責(zé)，而不必?fù)?dān)心失去控制權(quán)的風(fēng)險。