用AI行恶的五种姿首亟待防御

东说念主工智能（AI）海浪正夙昔所未有的速率鼓动。这是一个AI新纪元，在AI的匡助下，科研的规模被束缚拓宽，处治复杂问题的速率越来越快，但必须警惕：AI也能极大普及行恶分子的“坐褥力”。

安全公司“趋势科技”磋磨员文森佐·钱卡利尼暗示，生成式AI提供了一个新的、浩大的器用包，使坏心行径者粗犷比以往更高效、更外西化地开展动作。

钱卡利尼说，大多数行恶分子“并不是生存在迷蒙窠巢里密谋行事”，他们中“大多数齐是庸俗东说念主，从事着闲居责任”。

昨年的“WormGPT雕残”是一个象征性事件。WormGPT是一种基于开源模子构建的AI言语模子，但它使用坏心软件干通盘据进行考试，会协助黑客责任且莫得任何说念德规章或胁制。2023年夏天，在引起媒体高度阵势后，该模子的创建者文书关闭模子。自那以后，蚁合行恶分子大多住手竖立我方的AI模子，转而借助更可靠的现存器用来“耍花招”。

这可能是因为，行恶分子也想更快获取收益且不想承担新时刻带来的未知风险。东说念主们对此必须多加驻防，以下5种便是目下他们最常用的姿首。

蚁合垂纶：诱拐你的私东说念主信息

瑞士苏黎世联邦理工学院的AI安全磋磨员米斯拉夫·巴卢诺维奇暗示，目下生成式AI最大的浪掷便是蚁合垂纶，其试图诱拐东说念主们显露敏锐信息，再用于坏心方案。磋磨发现，在ChatGPT兴起的同期，也伴跟着蚁合垂纶电子邮件数目大幅加多。

钱卡利尼暗示，GoMail Pro等垃圾邮件生成办事已集成ChatGPT，这使得行恶用户能翻译或翻新发送给受害者的音信。OpenAI的计策胁制东说念主们用其居品进行罪人动作，但在实际中其实很难监管。

OpenAI方面暗示，他们将东说念主工审核和自动化系统邻接结，以识别和防御其模子被浪掷，淌若用户违抗公司计策，则会执行教育、暂停、历久关闭等步履。

还有小数值得驻防，由于AI翻译器用的逾越，寰球各地行恶集团的调换变得更容易，他们可能开展大规模跨国行动，或在本国对其他国度用户弃取坏心行动。

深度伪造：参预地下市集

生成式AI使深度伪造（Deepfake）的竖立发生质变。刻下，时刻合成的图像或音视频，看起来或听起来比以往任何时候齐愈加简直，这小数行恶分子也相识到了。

钱卡利尼团队发现，照旧有效户在电报（Telegram）等平台上展示他们的“深度伪造组合”，并以每张图片10好意思元或每分钟500好意思元的价钱出售办事。

相较图片，深度伪造视频制作起来更复杂，并且更容易清醒破绽。深度伪造音频的制作本钱便宜，只需几秒钟的某东说念主的声息（举例从搪塞媒体获取），即可生成令东说念主服气的实质。

这么的诱拐案例并不鲜见，东说念主们接到亲东说念主打来的求救电话，称我方被绑架并条款托付赎金，着力却发现，打电话的东说念主是个使用深度伪造语音的骗子。

钱卡利尼忽视，亲东说念主之间应约定一些秘要安全词并如期更换，这有助于蹙迫情况下阐述电话另一端的东说念主的身份。

绕过身份查验：一个伪造的“你”

行恶分子浪掷AI时刻的另一种姿首是绕过考证系统。

一些银行和加密货币交往需考证其客户是否本东说念主。他们会条款新用户在手机相机前捏身份证拍摄一张我方的像片，但行恶分子照旧运行在电报等平台上销售能绕过这一条款的应用身手。

他们提供的是伪造或被盗的身份证件，再将深度伪造的图像强加在真东说念主脸上，以欺诈手机相机考证身手。据钱卡利尼发现的一些例子，该办事的价钱以致低至70好意思元。

“逃狱”式办事：带来危急输出

淌若有东说念主向AI盘考怎样制造炸弹，那他不会得到任何有效的回话。这是因为大多数AI公司已弃取各式保护步履来防御模子显露无益或危急信息。

当今，蚁合行恶分子不再构建我方的AI模子，这种姿首既奋斗、耗时又艰难。一种新行恶趋势运行出现——“逃狱”式办事。

比如上头得不到谜底的问题，这炫夸了模子齐相关于怎样使用它们的规章。但“逃狱”允许用户掌握AI来生成违抗这些计策的输出。举例，为敲诈软件编写代码，或生成可在诱拐电子邮件中使用的文本。

为了叛逆这些束缚增长的风险，OpenAI和谷歌等公司需时时堵塞可能导致蹙迫危害的安全破绽。

东说念主肉搜索和监视：透露用户隐讳

巴卢诺维奇暗示，AI言语模子不仅是蚁合垂纶的“好意思满器用”，对东说念主肉搜索（在线显露某东说念主的私东说念主身份信息）亦然如斯。这是因为AI言语模子流程大齐互联网数据（包括个东说念主数据）的考试， 可臆测出某东说念主位于哪里。

行恶分子可能会让聊天机器东说念主假装是具有侧写训导的私家捕快，然后让它分析受害者所写的文本，并从文本中的小萍踪臆测出个东说念主信息。举例，凭证他们上高中的时辰臆测他们的年齿，或者凭证他们在通勤时提到的地标臆测他们的居住所在。互联网上该东说念主的干系信息越多，就越容易被识别。

巴卢诺维奇团队2023年底发现，大型言语模子，如GPT-4、Llama 2和Claude，已粗犷仅从与聊天机器东说念主的闲居对话中臆测出东说念主们的种族、位置和行状等敏锐信息。表面上，任何能看望这些模子的东说念主，齐能以这种姿首使用它们。

这些办事的存在，并不告成标明行恶动作的存在，但咱们必须看到可供坏心行径者操纵的新功能。而防御这些事情发生的独一方法便是加强防御。

巴卢诺维奇称，对AI公司来说，应完善数据保护；对个东说念主来说，普及防御相识是枢纽——东说念主们应沉想熟虑，酌量他们在网上共享的实质，并严慎决定，我方是否甘愿在言语模子中使用他们的个东说念主信息。