SolarWinds公司最新發(fā)布的2024年IT趨勢(shì)報(bào)告《AI：朋友還是敵人？》顯示，盡管90%的IT專業(yè)人士希望在其組織中實(shí)施生成性人工智能（genAI），但超過(guò)一半的人對(duì)集成、安全和隱私問(wèn)題表示擔(dān)憂。

在對(duì)大約7000名IT專業(yè)人士進(jìn)行的在線調(diào)查中，SolarWinds公司發(fā)現(xiàn)，盡管幾乎所有受訪者都渴望采用genAI和其他基于AI的工具，但不到一半的受訪者認(rèn)為他們的基礎(chǔ)設(shè)施能夠適應(yīng)這項(xiàng)新技術(shù)。只有43%的受訪者表示他們相信公司的數(shù)據(jù)庫(kù)能夠滿足AI增加的需求，而更少的人（38%）信任用于開(kāi)發(fā)這項(xiàng)技術(shù)的數(shù)據(jù)或訓(xùn)練的質(zhì)量。

報(bào)告指出，隱私和安全問(wèn)題被認(rèn)為是genAI集成的主要障礙，IT專業(yè)人士特別呼吁增加政府監(jiān)管來(lái)解決安全（72%）和隱私（64%）問(wèn)題。當(dāng)被問(wèn)及AI的挑戰(zhàn)時(shí)，41%的受訪者表示他們有過(guò)負(fù)面經(jīng)歷；其中，隱私問(wèn)題（48%）和安全風(fēng)險(xiǎn)（43%）是最常被提及的。

超過(guò)一半的受訪者還認(rèn)為，政府監(jiān)管應(yīng)該在打擊虛假信息方面發(fā)揮作用。報(bào)告中提到：“為了確保AI的成功和安全采用，IT專業(yè)人士認(rèn)識(shí)到，組織必須制定關(guān)于道德、數(shù)據(jù)隱私和合規(guī)性的全面政策，這指向了道德考慮和對(duì)工作被取代的擔(dān)憂，作為AI采用的其他重要障礙。”

SolarWinds報(bào)告還發(fā)現(xiàn)，超過(guò)三分之一的組織仍然缺乏指導(dǎo)適當(dāng)genAI實(shí)施的道德、隱私和合規(guī)政策。SolarWinds的技術(shù)和工程高級(jí)副總裁Krishna Sai表示：“盡管AI的討論在行業(yè)中占據(jù)了主導(dǎo)地位，但I(xiàn)T領(lǐng)導(dǎo)者和團(tuán)隊(duì)認(rèn)識(shí)到，這項(xiàng)仍在發(fā)展中的技術(shù)存在巨大的風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)因急于快速而非智能地構(gòu)建AI而加劇。”

事實(shí)上，領(lǐng)先的安全專家預(yù)測(cè)，黑客將越來(lái)越多地針對(duì)genAI系統(tǒng)，并嘗試通過(guò)破壞數(shù)據(jù)或模型本身來(lái)“投毒”。今年早些時(shí)候，美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院（NIST）發(fā)表了一篇論文，警告說(shuō)“投毒攻擊非常強(qiáng)大，可以導(dǎo)致可用性違規(guī)或完整性違規(guī)。”