QQ在線
企業(yè)微信
資訊
265本報(bào)記者 趙姍
微軟的創(chuàng)始人比爾·蓋茨有一句名言：“我們總是高估在一年或者兩年中能夠做到的，而低估五年或十年中能夠做到的?！边@句話用來理解人工智能的影響是相當(dāng)合適的。目前，隨著人工智能產(chǎn)業(yè)飛速發(fā)展，催生了新的人機(jī)交互模式，核心便是AI大模型驅(qū)動(dòng)的智能體（AI Agent）（以下簡(jiǎn)稱“AI助手”）。AI助手讓“人機(jī)協(xié)同”成為新常態(tài)，個(gè)人與企業(yè)正在步入AI助手時(shí)代。
然而，伴隨著快速發(fā)展，一系列問題與挑戰(zhàn)也隨之而來。如何在應(yīng)對(duì)AI助手面臨挑戰(zhàn)的同時(shí)抓住發(fā)展機(jī)遇，實(shí)現(xiàn)AI助手的可持續(xù)發(fā)展和更廣泛應(yīng)用，成為行業(yè)需要深入思考和探討的重點(diǎn)。
數(shù)據(jù)隱私安全、倫理和法律等成為挑戰(zhàn)
“AI助手在快速發(fā)展的同時(shí)，也面臨許多挑戰(zhàn)和問題。”國(guó)務(wù)院發(fā)展研究中心創(chuàng)新發(fā)展研究部第二研究室主任楊超在接受中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者采訪時(shí)表示，在這些問題中，最為關(guān)鍵的還在于AI助手使用所帶來的數(shù)據(jù)隱私安全、倫理和法律問題。
楊超認(rèn)為，從數(shù)據(jù)隱私保護(hù)來看，由于人工智能系統(tǒng)本身需要依賴大量用戶數(shù)據(jù)進(jìn)行訓(xùn)練，必然會(huì)導(dǎo)致相關(guān)機(jī)構(gòu)將AI助手服務(wù)期間獲取和產(chǎn)生的數(shù)據(jù)用于AI助手本身的優(yōu)化，即使通過刪除個(gè)性化屬性等方式對(duì)數(shù)據(jù)脫敏，數(shù)據(jù)隱私和安全問題也難以完全避免。尤其是隨著AI助手的普及，其訓(xùn)練涉及的數(shù)據(jù)量將快速提升，從而進(jìn)一步放大安全風(fēng)險(xiǎn)。
從倫理和法律角度看，隨著AI助手能力的增強(qiáng)，其自主性和決策能力必然會(huì)顯著提升，在部分應(yīng)用場(chǎng)景中將會(huì)脫離人類的直接指令而開展自主行為。這些自主行為一旦產(chǎn)生外部性影響，就將引發(fā)倫理和法律問題?！耙粋€(gè)經(jīng)典的例子是，人工智能自動(dòng)駕駛的汽車在行駛過程中，前方突然出現(xiàn)行人，改變行駛方向會(huì)傷害乘客，不改變方向則會(huì)傷害行人。這種情況下無論AI助手做出何種選擇都會(huì)帶來倫理問題?！睏畛f。
清華大學(xué)復(fù)雜工程系統(tǒng)實(shí)驗(yàn)室主任、中國(guó)人工智能學(xué)會(huì)智能產(chǎn)品與產(chǎn)業(yè)工作委員會(huì)主任任勇在接受中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者采訪時(shí)表示，在當(dāng)下階段，AI助手仍然面臨技術(shù)創(chuàng)新與場(chǎng)景適配度的挑戰(zhàn)。
一是算法的精準(zhǔn)性與可靠性。AI助手的核心——算法需要不斷學(xué)習(xí)和優(yōu)化以提高準(zhǔn)確性和可靠性，然而，面對(duì)復(fù)雜多變的用戶需求和場(chǎng)景，當(dāng)前的算法往往難以達(dá)到期待的要求。
二是跨模態(tài)學(xué)習(xí)與環(huán)境理解能力。AI助手當(dāng)前的技術(shù)水平仍存在一定的局限性，難以充分理解和整合應(yīng)用時(shí)空變化的模態(tài)信息，對(duì)環(huán)境信息的多模態(tài)感知與理解尚有很大的提升空間。
三是場(chǎng)景理解與適應(yīng)能力。有些場(chǎng)景化需求超越了簡(jiǎn)單的物理環(huán)境感知，需要與場(chǎng)景自身的底層邏輯、應(yīng)用邏輯相結(jié)合才能理解，這對(duì)當(dāng)下的AI助手而言是一個(gè)現(xiàn)實(shí)挑戰(zhàn)。
“此外，AI技術(shù)的復(fù)雜性和變化性使得已有法規(guī)難以完全覆蓋各種變動(dòng)。當(dāng)AI助手出現(xiàn)錯(cuò)誤或造成損害時(shí)，責(zé)任追究便成了難題。”任勇說。
“AI助手面臨的挑戰(zhàn)還有算法偏見與歧視、過度依賴和成癮?！鼻迦A大學(xué)人工智能國(guó)際治理研究院秘書長(zhǎng)、歐美同學(xué)會(huì)研究院人工智能和數(shù)字經(jīng)濟(jì)研究中心執(zhí)行主任魯俊群在接受中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者采訪時(shí)表示。
魯俊群認(rèn)為，目前，AI算法的訓(xùn)練數(shù)據(jù)還存在不完備性和偏向性。由于AI訓(xùn)練所使用的語(yǔ)料數(shù)據(jù)本身可能客觀上就存在著統(tǒng)計(jì)學(xué)上的一定偏差，還有可能存在開發(fā)者的個(gè)人偏好等，因此，現(xiàn)階段的各種AI助手仍有可能存在一定的算法偏見與歧視問題。對(duì)此，有必要建立對(duì)技術(shù)背后訓(xùn)練數(shù)據(jù)和算法的審查機(jī)制，如通過建立AI倫理委員會(huì)等形式加強(qiáng)審核。
另外，“假如一名用戶經(jīng)常與AI角色互動(dòng)來尋求幫助和安慰，容易對(duì)其產(chǎn)生情感上的依賴，以此來填補(bǔ)情感需求上的空缺，這有可能導(dǎo)致用戶沉迷虛擬世界而忽視現(xiàn)實(shí)世界。對(duì)此，建議對(duì)于AI助手應(yīng)該使用得當(dāng)，同時(shí)應(yīng)該注意保持與現(xiàn)實(shí)世界的互動(dòng)?！濒斂∪赫f。
未來發(fā)展方向：垂直領(lǐng)域?qū)I(yè)化、與具身智能的結(jié)合
當(dāng)前，大模型進(jìn)入應(yīng)用時(shí)代，多家科技公司都展出了最新AI應(yīng)用。
“AI助手發(fā)展的方向是多樣的，在技術(shù)路線和應(yīng)用場(chǎng)景的雙重影響下，將會(huì)迎來種類繁多的AI助手?！睏畛J(rèn)為，其中，有兩個(gè)方向是較為確定的。
一是垂直領(lǐng)域?qū)I(yè)化。在特定行業(yè)或領(lǐng)域，如家政、健康、醫(yī)療、法律、金融等大領(lǐng)域，甚至是制造業(yè)中不同行業(yè)等小領(lǐng)域，AI助手都將具備更深入的專業(yè)知識(shí)和技能，提供專業(yè)服務(wù)。
二是與具身智能的結(jié)合。隨著人工智能能力的提升，其提供的服務(wù)將不僅是咨詢和智力服務(wù)，而是通過更多的感知和操作，為人類提供直接與物質(zhì)世界交互的能力。
任勇認(rèn)為，就發(fā)展方向而言，AI助手在產(chǎn)業(yè)場(chǎng)景和個(gè)體場(chǎng)景中的應(yīng)用雖然都基于人工智能技術(shù)，但在技術(shù)路徑和響應(yīng)機(jī)理上存在著顯著差異。
AI助手產(chǎn)業(yè)場(chǎng)景的技術(shù)路徑主要是針對(duì)特定需求，如制造業(yè)、物流、醫(yī)療、教育等，AI助手通常需要進(jìn)行定制化開發(fā)，以符合行業(yè)的特定需求。利用相應(yīng)產(chǎn)業(yè)所產(chǎn)生的數(shù)據(jù)，結(jié)合各種機(jī)器學(xué)習(xí)算法，AI助手能夠自主學(xué)習(xí)和優(yōu)化，實(shí)現(xiàn)智能排班、任務(wù)分配、數(shù)據(jù)分析、流程優(yōu)化等高級(jí)功能。在此過程中，AI助手往往需要與企業(yè)的其他系統(tǒng)進(jìn)行集成，如ERP（企業(yè)資源計(jì)劃）、CRM（客戶關(guān)系管理）等，以實(shí)現(xiàn)信息的共享和協(xié)作。通過上述技術(shù)路徑實(shí)現(xiàn)對(duì)重復(fù)性煩瑣任務(wù)的自主處理和數(shù)據(jù)洞察、科學(xué)決策、降本增效。
AI助手用于個(gè)體場(chǎng)景的技術(shù)路徑主要是利用通用智能平臺(tái)，如智能手機(jī)、智能家居設(shè)備等，通過語(yǔ)音識(shí)別和自然語(yǔ)言交互、多設(shè)備協(xié)同來輔助用戶完成任務(wù)，提升日常生活的便利性和服務(wù)的精準(zhǔn)性。
“在產(chǎn)業(yè)場(chǎng)景中，AI助手主要關(guān)注于提升效率、優(yōu)化決策和降低成本，需要更多的定制化開發(fā)和集成協(xié)作；而在個(gè)人生活場(chǎng)景中，AI助手則更注重于提供便捷化、個(gè)性化、適應(yīng)性服務(wù)，未來的技術(shù)創(chuàng)新只能圍繞不同場(chǎng)景下各自的內(nèi)生邏輯進(jìn)行迭代優(yōu)化?！比斡抡f。
魯俊群認(rèn)為，AI助手未來可能會(huì)向多模態(tài)交互以及具身智能方向發(fā)展。
“為了實(shí)現(xiàn)具身智能，需要將類ChatGPT等這些基礎(chǔ)大模型與進(jìn)化學(xué)習(xí)機(jī)制相結(jié)合，通過與物理世界交互取得的新數(shù)據(jù)（而不再是人類投喂的數(shù)據(jù)）來不斷學(xué)習(xí)，并適應(yīng)新環(huán)境，優(yōu)化行為策略。多模態(tài)大模型能夠整合視覺、聽覺、觸覺等多種感官數(shù)據(jù)，提升機(jī)器人的理解能力。使具身智能機(jī)器人在與物理世界的互動(dòng)和理解方面更加人性化。這些未來的AI助手機(jī)器人可以自主理解場(chǎng)景、識(shí)別自然語(yǔ)言指令、規(guī)劃任務(wù)，并執(zhí)行操作，將是人類最得力的智能助理?！濒斂∪赫f。
從創(chuàng)新方向引導(dǎo)、應(yīng)用場(chǎng)景規(guī)范方面為AI助手提供支持保障
當(dāng)前，AI助手的服務(wù)升級(jí)與互聯(lián)互通是國(guó)內(nèi)多家互聯(lián)網(wǎng)科技公司持續(xù)探索的重點(diǎn)。
楊超建議，第一，加強(qiáng)對(duì)用戶隱私和數(shù)據(jù)安全的保護(hù)。強(qiáng)制性地將用戶隱私和數(shù)據(jù)安全作為提供AI助手服務(wù)的前置條件，引導(dǎo)和鼓勵(lì)相關(guān)機(jī)構(gòu)采用先進(jìn)的數(shù)據(jù)加密和匿名化技術(shù)，確保用戶數(shù)據(jù)的安全和隱私。
第二，增強(qiáng)AI助手決策過程的可解釋性，讓用戶能夠理解其行為和決策邏輯，從而提高用戶信任度。為整個(gè)社會(huì)更好接納AI助手創(chuàng)造良好的環(huán)境，從而為在更廣闊的應(yīng)用場(chǎng)景中使用AI助手提供幫助。
第三，加強(qiáng)倫理和法規(guī)遵從。根據(jù)人工智能技術(shù)的進(jìn)步及時(shí)修訂相關(guān)法律法規(guī)，完善對(duì)AI助手進(jìn)行規(guī)制的制度環(huán)境，確保AI助手的開發(fā)和應(yīng)用符合倫理標(biāo)準(zhǔn)和法律法規(guī)，避免產(chǎn)生歧視、偏見等問題。
“國(guó)家政策層面應(yīng)該從創(chuàng)新方向引導(dǎo)和應(yīng)用場(chǎng)景規(guī)范兩個(gè)方面出發(fā)，為AI助手的發(fā)展提供支持和保障。包括明確AI助手的適用場(chǎng)景和范圍等，避免誤用，更要避免國(guó)際資本集團(tuán)假借技術(shù)觸發(fā)虛假市場(chǎng)的濫用。特別是在醫(yī)療、教育、交通等關(guān)鍵領(lǐng)域，應(yīng)嚴(yán)格規(guī)范AI助手的應(yīng)用條件和程序。此外，要建立健全AI助手的監(jiān)管機(jī)制，加強(qiáng)社會(huì)力量尤其是人民群眾對(duì)AI助手應(yīng)用的監(jiān)督和評(píng)估，確保其合規(guī)性、合理性和安全性。對(duì)于違規(guī)行為，應(yīng)依法進(jìn)行處罰和追責(zé)。”任勇表示。
未來，企業(yè)可以利用AI助手優(yōu)化現(xiàn)有業(yè)務(wù)流程，特別是在新產(chǎn)品研發(fā)和服務(wù)的創(chuàng)新應(yīng)用方面，AI助手的普及將推動(dòng)不同行業(yè)之間的跨界融合和協(xié)同發(fā)展，為企業(yè)帶來新的商業(yè)機(jī)會(huì)和合作伙伴，進(jìn)而帶動(dòng)商業(yè)模式和生態(tài)的變革。
中央財(cái)經(jīng)大學(xué)數(shù)字經(jīng)濟(jì)融合創(chuàng)新發(fā)展中心主任陳端在接受中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者采訪時(shí)認(rèn)為，企業(yè)運(yùn)用AI助手強(qiáng)化核心競(jìng)爭(zhēng)力需要一系列的戰(zhàn)略規(guī)劃和技術(shù)實(shí)施。
一是要識(shí)別關(guān)鍵業(yè)務(wù)場(chǎng)景，深入了解業(yè)務(wù)需求，確定AI助手在哪些環(huán)節(jié)能夠發(fā)揮最大價(jià)值，然后為選定的業(yè)務(wù)場(chǎng)景明確具體的需求和目標(biāo)，如提高客戶滿意度、優(yōu)化庫(kù)存管理、增強(qiáng)市場(chǎng)分析能力等。
二是根據(jù)業(yè)務(wù)需求和技術(shù)成熟度，選擇適合的AI技術(shù)和解決方案，要充分考慮與現(xiàn)有系統(tǒng)的兼容性，確保AI助手能夠順利集成到企業(yè)的IT架構(gòu)中。此外，還要建立完善的數(shù)據(jù)治理體系，避免因?yàn)閿?shù)據(jù)偏差導(dǎo)致的結(jié)果偏差。
三是需要設(shè)立明確的評(píng)估指標(biāo)和機(jī)制，對(duì)AI助手的性能和效果進(jìn)行定期評(píng)估，及時(shí)調(diào)整和優(yōu)化AI助手的算法和模型，以提升其準(zhǔn)確性和效率。此外，還需要關(guān)注AI助手可能帶來的倫理和社會(huì)問題，確保其應(yīng)用符合道德和法律規(guī)范。
