- 阿里聯(lián)手中科大等高校 研發(fā)4項(xiàng)AI安全技術(shù)2月23日消息,據(jù)TechWeb消息,阿里安全圖靈實(shí)驗(yàn)室涉及文本變異對(duì)抗、圖像、視頻內(nèi)容風(fēng)控以及AI小樣本研究的4個(gè)團(tuán)隊(duì),分別與中國(guó)科學(xué)技術(shù)大學(xué)、浙江大學(xué)、華中科技大學(xué)等知名高校研究人員合作。具體來(lái)看,以文本內(nèi)容為例,惡意用戶(hù)可通過(guò)對(duì)文本中的違規(guī)內(nèi)容進(jìn)行變形變異,從而達(dá)到繞開(kāi)模型識(shí)別檢測(cè)的目的。為應(yīng)對(duì)挑戰(zhàn),解決對(duì)抗場(chǎng)景中風(fēng)控模型性能衰減的問(wèn)題,阿里安全圖靈實(shí)驗(yàn)室與浙江大學(xué)提出了基于對(duì)抗關(guān)系圖的文本對(duì)抗防御技術(shù)。2021-02-23 15:04:33
- 螞蟻集團(tuán)彭晉:2025年模型能力提升與風(fēng)險(xiǎn)預(yù)防并重1月8日消息,在智源研究院舉辦的AI十大趨勢(shì)發(fā)布會(huì)上,螞蟻集團(tuán)科技戰(zhàn)略與執(zhí)行部副總經(jīng)理彭晉就AI安全做了分享,他表示,作為復(fù)雜系統(tǒng),大模型的Scaling帶來(lái)了涌現(xiàn),但復(fù)雜系統(tǒng)特有的涌現(xiàn)結(jié)果不可預(yù)測(cè)、循環(huán)反饋等特有屬性也對(duì)傳統(tǒng)工程的安全防護(hù)機(jī)制帶來(lái)了挑戰(zhàn),風(fēng)險(xiǎn)因素在數(shù)據(jù)、算法、應(yīng)用層面均會(huì)出現(xiàn)。他認(rèn)為,模型能力提升與風(fēng)險(xiǎn)預(yù)防并重,AI安全治理體系持續(xù)完善。2025-01-08 11:45:28
- 亞馬遜云科技re:Inforce 2023中國(guó)站在北京開(kāi)啟 聚焦生成式AI挑戰(zhàn)和機(jī)遇亞馬遜云科技re:Inforce2023中國(guó)站日前在北京開(kāi)啟。此次大會(huì)聚焦生成式AI在安全層面給企業(yè)帶來(lái)的挑戰(zhàn)與機(jī)遇。2023-09-01 10:02:15
- 螞蟻集團(tuán)旗下安全科技e-KYC產(chǎn)品通過(guò)SOC2 Type2審計(jì)4月7日消息,近日,螞蟻集團(tuán)旗下安全科技ZOLOZ的e-KYC產(chǎn)品通過(guò)SOC2 Type2審計(jì),獲得安永會(huì)計(jì)師事務(wù)所出具的報(bào)告,這意味著該產(chǎn)品在數(shù)據(jù)安全、服務(wù)安全及服務(wù)高可用等方面已達(dá)到國(guó)際超一流水平。據(jù)了解,ZOLOZ的e-KYC產(chǎn)品是由AI驅(qū)動(dòng)的在線(xiàn)驗(yàn)證客戶(hù)身份產(chǎn)品解決方案,目前主要服務(wù)于海外市場(chǎng),在疫情期間幫助解決遠(yuǎn)程“認(rèn)證難”的挑戰(zhàn)。該解決方案由AI技術(shù)驅(qū)動(dòng),將驗(yàn)證平均時(shí)間從幾天降至3分鐘,將驗(yàn)證成功率從65%提高到90%以上。2022-04-07 16:16:15
- 亞馬遜云科技:Amazon Bedrock再添Claude 3模型3月5日消息,亞馬遜云科技宣布,致力于AI安全和研究的公司Anthropic的領(lǐng)先模型Claude 3系列將基于Amazon Bedrock提供服務(wù)。Claude 3系列模型具備行業(yè)領(lǐng)先的準(zhǔn)確性、性能、速度和成本優(yōu)勢(shì)。這一進(jìn)展將增強(qiáng)各種規(guī)模的企業(yè)在其組織中快速測(cè)試、構(gòu)建和部署生成式AI應(yīng)用的能力??蛻?hù)將能夠在Amazon Bedrock上訪(fǎng)問(wèn)Claude 3系列視覺(jué)模型-Claude 3 Opus、Claude 3 Sonnet和Claude 3 Haiku,Sonnet現(xiàn)已推出。2024-03-05 16:03:26
- 微信:持續(xù)打擊“利用AI仿冒知名人士進(jìn)行營(yíng)銷(xiāo)宣傳”12月15日消息,“微信珊瑚安全”發(fā)布公告稱(chēng),近期有媒體報(bào)道網(wǎng)絡(luò)存在利用AI技術(shù)仿冒名人進(jìn)行不當(dāng)營(yíng)銷(xiāo)的現(xiàn)象。結(jié)合用戶(hù)舉報(bào)、日常巡查等線(xiàn)索,微信從速?gòu)膰?yán)打擊了一批利用AI仿冒知名人士進(jìn)行不當(dāng)營(yíng)銷(xiāo)、惡意博取流量的違規(guī)行為,并針對(duì)相關(guān)情況開(kāi)展專(zhuān)項(xiàng)治理。截至目前,累計(jì)處置內(nèi)容532條,關(guān)閉賬號(hào)209個(gè)。下一步,微信將持續(xù)對(duì)“利用AI仿冒知名人士進(jìn)行營(yíng)銷(xiāo)宣傳”等違規(guī)行為增加打擊力度。2024-12-15 17:23:33
- 阿里安全聯(lián)合清華等發(fā)布全新AI魯棒性評(píng)測(cè)平臺(tái)7月19日消息,7月18日,清華大學(xué)、阿里安全、RealAI在“2021中國(guó)人工智能產(chǎn)業(yè)年會(huì)-安全人工智能專(zhuān)題論壇”上發(fā)布了全新版本的AI安全對(duì)抗攻防基準(zhǔn)平臺(tái)。據(jù)介紹,相較于去年三方發(fā)布的AI Benchmark 1.0,今年AI Benchmark 2.0包含全面、系統(tǒng)的攻防基準(zhǔn),更符合工業(yè)界的評(píng)測(cè)基準(zhǔn),更貼近線(xiàn)上的攻擊評(píng)測(cè)基準(zhǔn)。2022-07-19 14:54:35
- 騰訊云安全首次對(duì)外發(fā)布AI安全助手12月27日消息,云安全趨勢(shì)暨騰訊云安全年度產(chǎn)品發(fā)布會(huì)”昨日召開(kāi),在發(fā)布會(huì)上,騰訊云安全首次對(duì)外發(fā)布了AI安全助手。據(jù)介紹,騰訊云安全在通用模型基礎(chǔ)上,投喂安全知識(shí)語(yǔ)料庫(kù)二次訓(xùn)練出安全大模型,并且基于安全大模型打造了一款騰訊云AI安全助手,覆蓋告警解釋、漏洞修復(fù)、日志處理、智能客服等四大能力,產(chǎn)品將會(huì)在2024年1月全量正式上線(xiàn)。2023-12-27 15:20:29
- 阿里攜手中科院合作研發(fā)“聽(tīng)音識(shí)人”技術(shù) 提升AI安全防線(xiàn)3月24日消息,中科院聯(lián)合阿里安全團(tuán)隊(duì)通過(guò)訓(xùn)練AI模型,研究表情和聲音的關(guān)系。通過(guò)識(shí)別特定聲音找到若干張圖片中唯一正確人臉的實(shí)驗(yàn)研究表明,相較于人類(lèi)67%的正確率,AI的準(zhǔn)確率接近90%。在“1對(duì)N”的匹配實(shí)驗(yàn)中,AI還能對(duì)聲音歸屬人臉的“可能性”進(jìn)行排序。阿里安全圖靈實(shí)驗(yàn)室資深算法專(zhuān)家華棠表示,阿里希望通過(guò)AI來(lái)保護(hù)數(shù)字資產(chǎn)的知識(shí)產(chǎn)權(quán),優(yōu)化營(yíng)商環(huán)境,同時(shí)盡最大努力為商家和用戶(hù)打造更好的互聯(lián)網(wǎng)平臺(tái)。2021-03-24 17:57:07
- 阿里聯(lián)手中科大等高校 研發(fā)4項(xiàng)AI安全技術(shù)2月23日消息,據(jù)TechWeb消息,阿里安全圖靈實(shí)驗(yàn)室涉及文本變異對(duì)抗、圖像、視頻內(nèi)容風(fēng)控以及AI小樣本研究的4個(gè)團(tuán)隊(duì),分別與中國(guó)科學(xué)技術(shù)大學(xué)、浙江大學(xué)、華中科技大學(xué)等知名高校研究人員合作。據(jù)悉,阿里和上述高校合作研發(fā)了包括“內(nèi)容安全、文本反垃圾、AI模型魯棒性、營(yíng)商環(huán)境治理”4項(xiàng)新一代安全架構(gòu)核心AI安全技術(shù)成果,均被國(guó)際會(huì)議ICASSP2021收錄。2021-02-23 17:16:54
- 螞蟻、百度、字節(jié)跳動(dòng)等30余機(jī)構(gòu)共同發(fā)起AI安全工作組9月7日消息,在2023 inclusion·外灘大會(huì)舉行的《探索下一代安全智能》論壇上,世界權(quán)威國(guó)際產(chǎn)業(yè)組織“云安全聯(lián)盟” 大中華區(qū)宣布成立“AI安全工作組”,中國(guó)電信、螞蟻集團(tuán)、華為、百度、字節(jié)跳動(dòng)、西安電子科技大學(xué)、國(guó)家金融測(cè)評(píng)中心等30余家機(jī)構(gòu)成為首批發(fā)起單位。該組織致力于共同解決AI技術(shù)快速發(fā)展所帶來(lái)的安全難題。2023-09-07 17:40:33
- 李彥宏、周鴻祎和張勇共聚孔子故居 周鴻祎:三個(gè)老朋友對(duì)AI安全看法一致6月26日消息,在今日舉辦的世界互聯(lián)網(wǎng)大會(huì)尼山論壇上,李彥宏、周鴻祎和張勇三位互聯(lián)網(wǎng)大佬共聚孔子之鄉(xiāng)。據(jù)360創(chuàng)始人周鴻祎朋友圈發(fā)布動(dòng)態(tài),李彥宏、周鴻祎和張勇三位相聚舉杯,談笑風(fēng)生。周鴻祎表示,“在孔子家鄉(xiāng)討論如何打造安全可信可控易用的人工智能,三個(gè)老朋友看法一致?!?/span>2023-06-26 16:38:00
- 蓋茨再談ChatGPT:AI能提高效率,但要考慮邊界在哪2月7日消息,據(jù)報(bào)道,蓋茨在接受專(zhuān)訪(fǎng)時(shí)表示,聊天機(jī)器人ChatGPT以及AI領(lǐng)域的進(jìn)展令人激動(dòng),AI將是“2023年最熱門(mén)的話(huà)題”。蓋茨認(rèn)為,在教育、醫(yī)療等方面,AI都將彰顯其價(jià)值。蓋茨提到,擔(dān)心AI安全的人一定會(huì)說(shuō)OpenAI沒(méi)有解決這個(gè)問(wèn)題,其實(shí)作為合作伙伴,微軟也對(duì)此保持高度警惕?!?/span>AI將變得有爭(zhēng)議,這無(wú)疑是‘2023年最熱門(mén)的話(huà)題’,它也將在一定程度上改變就業(yè)市場(chǎng)。這讓我們不禁思考,邊界在哪里?”2023-02-07 14:26:11
- 螞蟻集團(tuán)井賢棟:AI讓服務(wù)業(yè)迎來(lái)大規(guī)模個(gè)性化的時(shí)代11月20日消息,在2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)主論壇上,螞蟻集團(tuán)董事長(zhǎng)兼CEO井賢棟表示,AI將從根本上改變所有行業(yè),讓服務(wù)業(yè)迎來(lái)真正大規(guī)模個(gè)性化的時(shí)代。他認(rèn)為,以人為本發(fā)展人工智能,核心在于讓AI人人可享、人人受益。為此,在對(duì)AI未來(lái)充滿(mǎn)希望的同時(shí),也要承擔(dān)起AI帶來(lái)的責(zé)任,守護(hù)AI安全。2024-11-20 17:19:29
- 支付寶三項(xiàng)科技產(chǎn)品入選上海金融科技中心建設(shè)優(yōu)秀成果“支付寶資金云圖”“蟻鑒AI安全檢測(cè)平臺(tái)”“支付寶跨境業(yè)務(wù)數(shù)字化合規(guī)管理平臺(tái)”三項(xiàng)科技成果入選上海金融科技中心建設(shè)三周年優(yōu)秀成果。2022-12-20 14:26:06
- 支付寶三項(xiàng)技術(shù)入選上海金融科技中心優(yōu)秀科技成果12月20日消息,由支付寶 網(wǎng)絡(luò)技術(shù)有限公司研發(fā)的“支付寶資金云圖”“蟻鑒AI安全檢測(cè)平臺(tái)”“支付寶跨境業(yè)務(wù)數(shù)字化合規(guī)管理平臺(tái)”三項(xiàng)科技成果入選上海金融科技中心建設(shè)三周年優(yōu)秀成果。據(jù)了解,上海金融科技中心建設(shè)三周年優(yōu)秀成果評(píng)選是由中國(guó)人民銀行上海總部、上海市地方金融監(jiān)督管理局指導(dǎo),上海金融科技產(chǎn)業(yè)聯(lián)盟主辦的優(yōu)秀成果評(píng)選活動(dòng)。2022-12-20 11:52:43
- 螞蟻集團(tuán)2025年春季校園招聘啟動(dòng)3月7日消息,螞蟻集團(tuán)正式啟動(dòng)2025年春季校園招聘,本次春招面向2025屆應(yīng)屆生和2026屆實(shí)習(xí)生,共開(kāi)放超過(guò)1000個(gè)崗位,聚焦AI算法、AI安全、數(shù)據(jù)科學(xué)與研發(fā)、基礎(chǔ)平臺(tái)研發(fā)等領(lǐng)域,連續(xù)第5年春招技術(shù)類(lèi)崗位占比超過(guò)80%。2025-03-07 11:18:59
- 貨拉拉社會(huì)責(zé)任報(bào)告:累計(jì)提供700萬(wàn)靈活就業(yè)機(jī)會(huì)1月10日消息,貨拉拉日前在北京舉辦可持續(xù)發(fā)展圓桌論壇,發(fā)布《貨拉拉社會(huì)責(zé)任行動(dòng)報(bào)告 》。報(bào)告顯示,貨拉拉已累計(jì)為700萬(wàn)貨車(chē)司機(jī)、搬家?guī)煾岛团芡刃「缣峁╈`活就業(yè)機(jī)會(huì)。在司機(jī)權(quán)益保障方面,貨拉拉舉辦了190余場(chǎng)司機(jī)懇談會(huì),開(kāi)展司機(jī)職業(yè)傷害保障試點(diǎn)累計(jì)覆蓋逾156萬(wàn)新老司機(jī);在安全方面,貨拉拉打造了AI安全防控系統(tǒng),2023年零受傷營(yíng)運(yùn)率達(dá)99.9997%;在綠色發(fā)展方面,過(guò)去一年貨拉拉有40%訂單由新能源貨車(chē)完成,相比油車(chē)減碳142萬(wàn)噸。2025-01-10 14:26:24
- 阿里安全聯(lián)合清華大學(xué)發(fā)起小樣本商標(biāo)檢測(cè)挑戰(zhàn)賽近日,阿里安全、清華大學(xué)聯(lián)合發(fā)起“ICME 2022 安全AI挑戰(zhàn)者計(jì)劃第九期:小樣本商標(biāo)檢測(cè)挑戰(zhàn)賽”。2022-03-29 14:18:34
- 螞蟻集團(tuán)和清華大學(xué)將在“下一代互聯(lián)網(wǎng)應(yīng)用安全技術(shù)”方面展開(kāi)合作根據(jù)合作協(xié)議,雙方將圍繞“下一代互聯(lián)網(wǎng)應(yīng)用安全技術(shù)”長(zhǎng)期攻堅(jiān),先期聚焦在可信AI和安全通用大模型兩個(gè)核心領(lǐng)域。同時(shí),雙方還將開(kāi)展“安全通用大模型”的技術(shù)路線(xiàn)和落地研究,以應(yīng)對(duì)大模型技術(shù)爆發(fā)時(shí)代的安全科技生產(chǎn)力問(wèn)題,及通用AI能力廣泛應(yīng)用帶來(lái)的新型未知風(fēng)險(xiǎn)防控。2023-04-08 09:43:05