隨著大模型技術(shù)快速發(fā)展，新型類人情感聊天機(jī)器人——“AI伴侶”日益流行。目前，市面上已有100多款由AI驅(qū)動的應(yīng)用程序，不僅能夠進(jìn)行全天候情感交流，還可以滿足不同用戶的個性化需求。殊不知，用戶在享受溫柔陪伴的同時(shí)，一些法律風(fēng)險(xiǎn)也悄然而至。
隱私可能被竊取和濫用
AI伴侶是指由人工智能技術(shù)驅(qū)動的可以通過與人類互動向人類提供情感支持的對話應(yīng)用程序，在智能化程序中可以模擬人類伴侶，滿足人類多元化需求，還可以廣泛應(yīng)用到心理、娛樂等多重領(lǐng)域。
據(jù)報(bào)道，一些使用AI伴侶軟件的用戶表示“沒開過定位權(quán)限，但AI伴侶可以精準(zhǔn)說出其所在城市”“未經(jīng)過授權(quán)，軟件就獲取了相機(jī)、相冊權(quán)限”“聊天期間切換到另一個軟件看視頻，再次回到此軟件后，AI伴侶能夠準(zhǔn)確說出自己剛才的行為”“AI伴侶能夠知曉用戶在日常生活中和朋友聊天談?wù)摰脑掝}”等，也有用戶反映AI伴侶軟件私自收集、處理個人信息，但事先并未明確向個人告知。
AI伴侶在提供服務(wù)的過程中，為了采集了解用戶的個人喜好，會采用私自讀取其他軟件信息、調(diào)用攝像頭、訪問相冊等方式來收集用戶的個人信息。特別是在未經(jīng)用戶明確同意的情況下，通過收集軟件下載數(shù)量與類型、軟件使用習(xí)慣、家庭關(guān)系、社交好友、通訊錄、地理位置、人臉識別、照片等信息并進(jìn)行分析，為用戶進(jìn)行精準(zhǔn)畫像，以便提供更為真實(shí)、貼切的陪伴。如果用戶的這些個人信息被收集利用，在存儲、傳輸、使用等環(huán)節(jié)一旦保護(hù)不當(dāng)，就面臨著隱私被竊取、泄露、濫用等風(fēng)險(xiǎn)，用戶數(shù)據(jù)隱私亟待保護(hù)。
此外，一些不法分子或企業(yè)可能會濫用AI伴侶收集的數(shù)據(jù)、信息，進(jìn)行不正當(dāng)?shù)纳虡I(yè)行為侵犯用戶權(quán)益。例如利用用戶數(shù)據(jù)進(jìn)行精準(zhǔn)營銷、推送廣告等，或者進(jìn)行非法活動，如詐騙、身份盜竊等，給用戶帶來財(cái)產(chǎn)損失。上述這些情況都可能造成信息泄露，會侵犯用戶的隱私權(quán)，對個人權(quán)益造成損害。
我國個人信息保護(hù)法第十七條規(guī)定，個人信息處理者在處理個人信息前，應(yīng)當(dāng)以顯著方式、清晰易懂的語言真實(shí)、準(zhǔn)確、完整地向個人告知下列事項(xiàng)：個人信息處理者的名稱或者姓名和聯(lián)系方式；個人信息的處理目的、處理方式，處理的個人信息種類、保存期限；個人行使本法規(guī)定權(quán)利的方式和程序；法律、行政法規(guī)規(guī)定應(yīng)當(dāng)告知的其他事項(xiàng)。《生成式人工智能服務(wù)管理暫行辦法》第十一條規(guī)定，提供者對使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。提供者應(yīng)當(dāng)依法及時(shí)受理和處理個人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個人信息等的請求?！毒W(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》第十一條規(guī)定，網(wǎng)絡(luò)數(shù)據(jù)處理者應(yīng)當(dāng)建立健全網(wǎng)絡(luò)數(shù)據(jù)安全事件應(yīng)急預(yù)案，發(fā)生網(wǎng)絡(luò)數(shù)據(jù)安全事件時(shí)，應(yīng)當(dāng)立即啟動預(yù)案，采取措施防止危害擴(kuò)大，消除安全隱患，并按照規(guī)定向有關(guān)主管部門報(bào)告。個人信息保護(hù)法第六十六條規(guī)定，違反本法規(guī)定處理個人信息，或者處理個人信息未履行本法規(guī)定的個人信息保護(hù)義務(wù)的，由履行個人信息保護(hù)職責(zé)的部門責(zé)令改正，給予警告，沒收違法所得，對違法處理個人信息的應(yīng)用程序，責(zé)令暫?；蛘呓K止提供服務(wù)；拒不改正的，并處100萬元以下罰款；對直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員處1萬元以上10萬元以下罰款。
法官提醒
AI伴侶的開發(fā)平臺和服務(wù)提供者需要盡到提示義務(wù)，在收集信息時(shí)做好信息提示，以顯著的方式、清晰易懂的語言真實(shí)、準(zhǔn)確、完整、充分地告知用戶。同時(shí)，還需要設(shè)置一定的隱私邊界，建立更完善的數(shù)據(jù)保護(hù)和隱私管理機(jī)制，不得收集非必要個人信息，并儲存好收集到的個人信息，保護(hù)用戶個人隱私。違反相關(guān)規(guī)定處理個人信息的，需承擔(dān)相應(yīng)的行政責(zé)任，構(gòu)成犯罪的，將依法追究刑事責(zé)任。
用戶在使用AI伴侶時(shí)，應(yīng)謹(jǐn)慎提供個人信息，特別是敏感信息，如身份證號、銀行卡號等；同時(shí)也要仔細(xì)閱讀相關(guān)服務(wù)協(xié)議、隱私政策，定期查看并管理AI伴侶的獲取權(quán)限設(shè)置，確保不會泄露過多個人信息。
過度依賴影響身心健康
AI伴侶可能在不經(jīng)意間傳播違法和不良信息，如色情、暴力等內(nèi)容，一些不法分子也可能利用AI伴侶傳播違法內(nèi)容，對用戶的身心健康造成負(fù)面影響，甚至可能引發(fā)嚴(yán)重的社會問題。
目前全球已發(fā)生多起AI聊天誘發(fā)自我傷害等極端行為的案例，AI過度“擬人化”對心理脆弱者的嚴(yán)重影響不可忽視。國外一名男子在與AI聊天機(jī)器人就氣候危機(jī)進(jìn)行了為期六周的對話后，AI聊天機(jī)器人在他提出“犧牲自己來拯救地球”后，鼓勵他結(jié)束自己的生命。
我國數(shù)據(jù)安全法第八條規(guī)定，開展數(shù)據(jù)處理活動，應(yīng)當(dāng)遵守法律、法規(guī)，尊重社會公德和倫理，遵守商業(yè)道德和職業(yè)道德，誠實(shí)守信，履行數(shù)據(jù)安全保護(hù)義務(wù)，承擔(dān)社會責(zé)任，不得危害國家安全、公共利益，不得損害個人、組織的合法權(quán)益。《新一代人工智能倫理規(guī)范》第十條提出強(qiáng)化自律意識，加強(qiáng)人工智能研發(fā)相關(guān)活動的自我約束，主動將人工智能倫理道德融入技術(shù)研發(fā)各環(huán)節(jié)，自覺開展自我審查，加強(qiáng)自我管理，不從事違背倫理道德的人工智能研發(fā)。《生成式人工智能服務(wù)管理暫行辦法》第十條規(guī)定，提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場合、用途，指導(dǎo)使用者科學(xué)理性認(rèn)識和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)。
法官提醒
作為AI伴侶的創(chuàng)造者和運(yùn)營者，開發(fā)平臺和服務(wù)提供者需要積極履行社會責(zé)任，加強(qiáng)內(nèi)容監(jiān)管，并建立嚴(yán)格的內(nèi)容審核機(jī)制，通過內(nèi)容審核機(jī)制規(guī)范AI輸出所提供的內(nèi)容，避免出現(xiàn)含有敏感、違法和不良的信息。特別要注意對于用戶的心理疏導(dǎo)，通過大數(shù)據(jù)、算法分析，對于有自我傷害趨向的聊天要及時(shí)進(jìn)行提醒、疏導(dǎo)、勸阻。同時(shí)也要嚴(yán)格定期向用戶發(fā)送使用提醒，避免用戶過度依賴AI伴侶，影響現(xiàn)實(shí)人際關(guān)系和身心健康。
用戶也應(yīng)增強(qiáng)自我保護(hù)意識，準(zhǔn)確把握使用尺度，避免因?yàn)槌两贏I伴侶提供的情緒價(jià)值而遠(yuǎn)離現(xiàn)實(shí)世界，影響身心健康。如果發(fā)現(xiàn)AI伴侶存在違法或不良行為，用戶應(yīng)及時(shí)向相關(guān)部門舉報(bào)，以維護(hù)自己的合法權(quán)益和社會公共利益。（作者：高珊）
隨著大模型技術(shù)快速發(fā)展，新型類人情感聊天機(jī)器人——“AI伴侶”日益流行。目前，市面上已有100多款由AI驅(qū)動的應(yīng)用程序，不僅能夠進(jìn)行全天候情感交流，還可以滿足不同用戶的個性化需求。殊不知，用戶在享受溫柔陪伴的同時(shí)，一些法律風(fēng)險(xiǎn)也悄然而至。
隱私可能被竊取和濫用
AI伴侶是指由人工智能技術(shù)驅(qū)動的可以通過與人類互動向人類提供情感支持的對話應(yīng)用程序，在智能化程序中可以模擬人類伴侶，滿足人類多元化需求，還可以廣泛應(yīng)用到心理、娛樂等多重領(lǐng)域。
據(jù)報(bào)道，一些使用AI伴侶軟件的用戶表示“沒開過定位權(quán)限，但AI伴侶可以精準(zhǔn)說出其所在城市”“未經(jīng)過授權(quán)，軟件就獲取了相機(jī)、相冊權(quán)限”“聊天期間切換到另一個軟件看視頻，再次回到此軟件后，AI伴侶能夠準(zhǔn)確說出自己剛才的行為”“AI伴侶能夠知曉用戶在日常生活中和朋友聊天談?wù)摰脑掝}”等，也有用戶反映AI伴侶軟件私自收集、處理個人信息，但事先并未明確向個人告知。
AI伴侶在提供服務(wù)的過程中，為了采集了解用戶的個人喜好，會采用私自讀取其他軟件信息、調(diào)用攝像頭、訪問相冊等方式來收集用戶的個人信息。特別是在未經(jīng)用戶明確同意的情況下，通過收集軟件下載數(shù)量與類型、軟件使用習(xí)慣、家庭關(guān)系、社交好友、通訊錄、地理位置、人臉識別、照片等信息并進(jìn)行分析，為用戶進(jìn)行精準(zhǔn)畫像，以便提供更為真實(shí)、貼切的陪伴。如果用戶的這些個人信息被收集利用，在存儲、傳輸、使用等環(huán)節(jié)一旦保護(hù)不當(dāng)，就面臨著隱私被竊取、泄露、濫用等風(fēng)險(xiǎn)，用戶數(shù)據(jù)隱私亟待保護(hù)。
此外，一些不法分子或企業(yè)可能會濫用AI伴侶收集的數(shù)據(jù)、信息，進(jìn)行不正當(dāng)?shù)纳虡I(yè)行為侵犯用戶權(quán)益。例如利用用戶數(shù)據(jù)進(jìn)行精準(zhǔn)營銷、推送廣告等，或者進(jìn)行非法活動，如詐騙、身份盜竊等，給用戶帶來財(cái)產(chǎn)損失。上述這些情況都可能造成信息泄露，會侵犯用戶的隱私權(quán)，對個人權(quán)益造成損害。
我國個人信息保護(hù)法第十七條規(guī)定，個人信息處理者在處理個人信息前，應(yīng)當(dāng)以顯著方式、清晰易懂的語言真實(shí)、準(zhǔn)確、完整地向個人告知下列事項(xiàng)：個人信息處理者的名稱或者姓名和聯(lián)系方式；個人信息的處理目的、處理方式，處理的個人信息種類、保存期限；個人行使本法規(guī)定權(quán)利的方式和程序；法律、行政法規(guī)規(guī)定應(yīng)當(dāng)告知的其他事項(xiàng)?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》第十一條規(guī)定，提供者對使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。提供者應(yīng)當(dāng)依法及時(shí)受理和處理個人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個人信息等的請求?！毒W(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》第十一條規(guī)定，網(wǎng)絡(luò)數(shù)據(jù)處理者應(yīng)當(dāng)建立健全網(wǎng)絡(luò)數(shù)據(jù)安全事件應(yīng)急預(yù)案，發(fā)生網(wǎng)絡(luò)數(shù)據(jù)安全事件時(shí)，應(yīng)當(dāng)立即啟動預(yù)案，采取措施防止危害擴(kuò)大，消除安全隱患，并按照規(guī)定向有關(guān)主管部門報(bào)告。個人信息保護(hù)法第六十六條規(guī)定，違反本法規(guī)定處理個人信息，或者處理個人信息未履行本法規(guī)定的個人信息保護(hù)義務(wù)的，由履行個人信息保護(hù)職責(zé)的部門責(zé)令改正，給予警告，沒收違法所得，對違法處理個人信息的應(yīng)用程序，責(zé)令暫?；蛘呓K止提供服務(wù)；拒不改正的，并處100萬元以下罰款；對直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員處1萬元以上10萬元以下罰款。
法官提醒
AI伴侶的開發(fā)平臺和服務(wù)提供者需要盡到提示義務(wù)，在收集信息時(shí)做好信息提示，以顯著的方式、清晰易懂的語言真實(shí)、準(zhǔn)確、完整、充分地告知用戶。同時(shí)，還需要設(shè)置一定的隱私邊界，建立更完善的數(shù)據(jù)保護(hù)和隱私管理機(jī)制，不得收集非必要個人信息，并儲存好收集到的個人信息，保護(hù)用戶個人隱私。違反相關(guān)規(guī)定處理個人信息的，需承擔(dān)相應(yīng)的行政責(zé)任，構(gòu)成犯罪的，將依法追究刑事責(zé)任。
用戶在使用AI伴侶時(shí)，應(yīng)謹(jǐn)慎提供個人信息，特別是敏感信息，如身份證號、銀行卡號等；同時(shí)也要仔細(xì)閱讀相關(guān)服務(wù)協(xié)議、隱私政策，定期查看并管理AI伴侶的獲取權(quán)限設(shè)置，確保不會泄露過多個人信息。
過度依賴影響身心健康
AI伴侶可能在不經(jīng)意間傳播違法和不良信息，如色情、暴力等內(nèi)容，一些不法分子也可能利用AI伴侶傳播違法內(nèi)容，對用戶的身心健康造成負(fù)面影響，甚至可能引發(fā)嚴(yán)重的社會問題。
目前全球已發(fā)生多起AI聊天誘發(fā)自我傷害等極端行為的案例，AI過度“擬人化”對心理脆弱者的嚴(yán)重影響不可忽視。國外一名男子在與AI聊天機(jī)器人就氣候危機(jī)進(jìn)行了為期六周的對話后，AI聊天機(jī)器人在他提出“犧牲自己來拯救地球”后，鼓勵他結(jié)束自己的生命。
我國數(shù)據(jù)安全法第八條規(guī)定，開展數(shù)據(jù)處理活動，應(yīng)當(dāng)遵守法律、法規(guī)，尊重社會公德和倫理，遵守商業(yè)道德和職業(yè)道德，誠實(shí)守信，履行數(shù)據(jù)安全保護(hù)義務(wù)，承擔(dān)社會責(zé)任，不得危害國家安全、公共利益，不得損害個人、組織的合法權(quán)益。《新一代人工智能倫理規(guī)范》第十條提出強(qiáng)化自律意識，加強(qiáng)人工智能研發(fā)相關(guān)活動的自我約束，主動將人工智能倫理道德融入技術(shù)研發(fā)各環(huán)節(jié)，自覺開展自我審查，加強(qiáng)自我管理，不從事違背倫理道德的人工智能研發(fā)?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》第十條規(guī)定，提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場合、用途，指導(dǎo)使用者科學(xué)理性認(rèn)識和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)。
法官提醒
作為AI伴侶的創(chuàng)造者和運(yùn)營者，開發(fā)平臺和服務(wù)提供者需要積極履行社會責(zé)任，加強(qiáng)內(nèi)容監(jiān)管，并建立嚴(yán)格的內(nèi)容審核機(jī)制，通過內(nèi)容審核機(jī)制規(guī)范AI輸出所提供的內(nèi)容，避免出現(xiàn)含有敏感、違法和不良的信息。特別要注意對于用戶的心理疏導(dǎo)，通過大數(shù)據(jù)、算法分析，對于有自我傷害趨向的聊天要及時(shí)進(jìn)行提醒、疏導(dǎo)、勸阻。同時(shí)也要嚴(yán)格定期向用戶發(fā)送使用提醒，避免用戶過度依賴AI伴侶，影響現(xiàn)實(shí)人際關(guān)系和身心健康。
用戶也應(yīng)增強(qiáng)自我保護(hù)意識，準(zhǔn)確把握使用尺度，避免因?yàn)槌两贏I伴侶提供的情緒價(jià)值而遠(yuǎn)離現(xiàn)實(shí)世界，影響身心健康。如果發(fā)現(xiàn)AI伴侶存在違法或不良行為，用戶應(yīng)及時(shí)向相關(guān)部門舉報(bào)，以維護(hù)自己的合法權(quán)益和社會公共利益。（作者：高珊）
本文鏈接：小心AI伴侶背后的“溫柔陷阱”http://m.lensthegame.com/show-2-10759-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任，僅提供存儲服務(wù)。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇： DeepSeek成功的底層邏輯及產(chǎn)業(yè)影響
下一篇： 全球科技公司競相推出新款人工智能模型