美国留学

作者：Wang Congbin生成AI的发展提出了一个有趣的悖论：它可以完美地重现人类现有的知识成就，但它从来没有能够跨越培训数据的界限，以实现真正的创新突破。正是此功能使AI和艺术创作者处于紧张关系中。当AI模仿艺术家在几秒钟内一生都被纠正的独特风格时，出现了一个紧迫的问题：如果世界各地的AI开发人员设定必须遵循的保护规则是什么？芝加哥大学计算机科学教授Ben Zhao给出了令人发人深省的观点：在追求科学研究的突破时，有必要深入思考技术的实际社会后果，而这一责任属于每位科学研究人员。当AI经历“摩尔人”的匆忙时，我们应该比以往任何时候都更加考虑如何确保技术进步不会侵蚀人类文明，文学和艺术创造的宝贵财富。这不仅涉及技术的未来，还涉及人类文化遗产的基础。

Ben Zhao，芝加哥大学计算机科学教授

数据不是“灵丹妙药”。现在，每个人都在热烈讨论大型模型，重点是参数量表和准确性等硬指标。但是说实话，技术不能只是“可以写和画”。更重要的是，它可以真正解决实际问题。这是测试AI值的试金石。我们通常看到的是，当大型模型处理某些专业问题时，仍然存在一个不足的准确性问题，即经常被称为“幻觉”现象。这使得人工智能仍然面临许多挑战，可以真正整合到复杂的现实生活中。该行业试图通过引入诸如抹布之类的技术途径来不断提高模型的可靠性和实用性。尽管如此，通常认为大型模型有可能在多种应用程序场景中取代人类互动，无论是信息检索还是问答系统。应用大型模型后，一些产品确实达到了约80的可用性，而这种“相对成功”使整个行业非常兴奋。这为现有的大型模型体系结构带来了所有资源和关注。但是，赵扬宾指出，从那时起，大型模型的功能仍然相对有限。特别是在过去的两年中，很难发现其实际应用方案并不广泛，因此仍然有疑问，大型模型能否取得突破并真正取代人类来完成一些工作。但是，该行业通常倾向于相信“数据是主密钥”。只要训练的数据量足够大，该模型就可以连续优化并解决各种问题。公司和研究机构似乎都在致力于“更多数据”。但是，从赵扬宾的研究角度来看，大型模型的结构设计存在某些局限性。换句话说，应用程序边界突破的根本原因不仅是数据不足，而且是模型体系结构本身的局限性。即使您不断堆叠数据，也无法从根本上解决问题。在接下来的几年中，这种依靠现有建筑的方式可能会逐渐揭示瓶颈。也许我们需要退后几步，跳出当前的框架，从新的角度重新考虑模型的设计逻辑，并找到可以真正突破现有限制的新体系结构。 Zhao Yanbin说：“以目前的速度，我们可能无法解决这些错误。”当然，沿着大型模型的开发曲线，该行业已经出现了一些创新。例如，DeepSeek被认为是一个重要的转折点。尽管它没有从根本上改变建筑本身，但它提出了一种创造性的方法。这也使以前曾在硬件上进行大量投资的公司开始重新考虑其战略方向。今年1月8日，亚洲微软研究所发表了一篇关于ARXIV的论文，提出了一种创新的方法RSTAR-MATH，该论文*提高了小语言模型的数学推理能力，挑战了传统的认知“较大的参数，更好的绩效”，并为机构提供了有限的GPU资源的新想法，以实现“花费小钱”。当新技术出现时，宣传与实际实施之间存在差距。赵扬宾认为，在哪种情况下，企业确实将生成的AI应用于效率以及它的效率，不可能准确评估当前情况。只有当行业积累足够的实际经验时，我们才能对这些技术的社会价值做出客观的判断，我们可以更经常地看待新技术。我们通常会更加注意积极的侧面，但这种风险却是一定的，这是一定会产生一定的一部分。不再是理论上的假设阶段，但实际上正在发生“锁定”。

当时，Zhao Yanbin已经开始专注于解决机器学*和移动系统中的安全性和隐私问题。当时，他意识到AI技术将对社会产生最深远的影响，并且在许多关键领域，无论是自动驾驶还是医学成像，这些突破性的进步都是令人兴奋的。 “因此，我们最初的研究重点是如何保护这些有益的AI系统。”生成AI的兴起后，Zhao Yanbin开始研究对抗机器学*的研究。由于AI模仿人类创造的能力已经取得了迅速的进步，因此他带领团队开发了保护人类创意免受生成AI模型的潜在危害的工具，这正是处理生成AI技术逐渐成熟的开发阶段，但仍需要改善道德规范。 “这是自然的变化。”在Zhao Yanbin的观点中，人工智能的独特算法机制显示出有趣的一面，但是这些精致的计算方法需要从安全角度重新检查。从2013年到2022年，专注于分类任务的传统AI系统具有相对清晰的功能界限和局限性，人们对其性能有清晰的期望。但是，自2022年以来，生成AI已显示出完全不同的功能，从文本分析到协助完成作业完成，这对个人产生了重大影响，正是这种普遍性使其更具挑战性。因此，Zhao Yanbin的科学研究方向做出了这种改变。先前的研究只需要从单个维度开始，但是现在，AI技术的影响已经变得非常复杂，有必要考虑积极的效果，例如提高效率和可能的负面影响。由于科学研究的结果将极大地影响未来的社会发展，因此这需要研究人员建立更全面的观点。以互联网为例，当时的主流概念认为，技术创新本身是好的，很少被认为是其潜在的负面影响。但是，生成AI的发展显示出完全不同的特征。我们已经可以清楚地观察到，就业市场正在经历结构性变化，而年轻一代的艺术学生开始改变。作为数十年来从事该行业的计算机教授，Zhao Yanbin深深地感受到了技术的深刻变化，这是数十年来首次跨学科的变化。在2022年夏天，一些艺术家主动与赵扬宾团队联系，希望了解现有的科学研究结果是否可以保护其作品免于被大型模型滥用。当时，团队对艺术领域没有太多了解，对这个问题感到惊讶。但是，在与艺术家进行了深入的交流之后，研究团队还意识到，生成的AI带给创作者所带来的挑战比预期的要复杂得多。为了解决这些现实生活中的问题，Zhao Yanbin的团队开始使用对抗机器学*来研究艺术家社区的问题。对抗机器学*是机器学*领域的重要分支，重点是如何在对抗性攻击下保持机器学*模型。现在，团队正试图使用这种机制对输入数据进行小且有针对性的修改，以便该模型可以产生错误的预测或分类结果，从而实现“隐身保护”的效果。这不仅是技术道路上的跨境尝试，而且还代表了在技术与伦理之间的平衡中找到新的可能性。对抗性艺术“无形”现在正面临困境。需要在网上看到作品，并且更多的人可以产生收入。但同时，更多的曝光可能会带来用于AI培训的作品。这种行为本质上剥夺了艺术家的创造价值和财务资源，甚至可能完全破坏他的职业生涯。

Zhao Yanbin团队开发的工具正是为了解决这一核心矛盾：如何有效保护艺术作品免受虐待，同时维持必要的在线曝光，以便创造者可以在数字时代继续在数字时代创造和发展。 2020年，Zhao Yanbin的团队推出了一个图像遮挡工具Fawkes，以防止第三方基于在线照片建立未经授权的面部识别模型。在减少AI危害的工具的研究中，Zhao Yanbin的团队拥有丰富的经验，并且通过与艺术家团体进行深入交流，他开发了夜影以在2024年处理视觉艺术作品，以便在未经同意未经同意的AI模型培训时，这些作品就可以干扰模型。和釉料，用于保护艺术家免受风格模仿。这些工具通过计算对绘画进行了一些更改。肉眼却不会注意到特殊处理的作品并保持其艺术性质。但是，当AI模型分析这些处理过的绘画时，它将受到干扰，无法准确识别。 Nightshade就像“将辣椒酱混合到您的午餐中，因此不会从办公室的冰箱中被盗”。 Nightshade的目标是文本提示之间的相关性，巧妙地更改图像像素，诱使大型模型解释与人类观众完全不同的图像。大型模型错误地将“阴影”图像的功能分类，如果接受了足够的“中毒”数据训练，它们将开始生成与相应提示完全无关的图像。少于100个“中毒”样品可以破坏稳定的差异提示。未经修改的蒙娜丽莎（Mona Lisa）图像和睡衣处理版本几乎与人类相同，但是该模型并没有将“中毒”样本解释为女性肖像，而是将其视为“长袍中的猫”。

从左到右：蒙娜丽莎；蒙娜丽莎（Mona Lisa）的夜影加工版本； Mona Lisa的AI“ See”的影子版本

“我们利用人类和人工智能之间的根本差异来理解图像。”赵扬宾说，人们依靠整体美学来欣赏绘画，而AI则依靠数据功能分析。通过以有针对性的方式调整绘画的数字特征，我们使AI模型很难在不改变视觉效果的情况下获得有效的信息。这种方法使艺术家可以安全地在线展示自己的作品，维持曝光度并降低被AI盗用的风险。自2024年1月发行以来，Nightshade下载了超过250万次，自2023年3月发行以来，Glaze下载了760万次。与Nightshade类似，Glaze Tools可能会扭曲大型模型“ Watch”和Art Styles的判断，以防止它们模仿艺术家的独特作品。人类可能会看到木炭笔的现实肖像，但是大型模型将其视为抽象绘画，然后当被要求绘制美丽的木炭笔肖像时产生凌乱的抽象绘画。

从左到右：Karla Ortiz的原始作品；相同工作后的效果设置为“低”隐身设置；相同工作后的效果设置为“高”隐身设置

从左到右：Karla Ortiz的原始作品； AI模型创建的窃作品；隐藏原始艺术作品后的AI生成图像

这项研究结果使Zhao Yanbin非常有价值，因为它对保护人类创造力的核心价值具有重要意义。他说，创造力是将人类与其他生物区分开来的基本特征，艺术家，作家，音乐家等创意工作者是这种创造力的重要代表。保护这些创造性的才能正在保护人类文明的来源。即使这项技术只能帮助一些创作者保护自己的权利，也已经很有价值。如果可以扩大保护的范围，那么它的社会影响力将更加深远，因为它与人类文化生态的健康发展有关。创造力是AI发展的“力量”。生成AI的到来对创意行业产生了许多负面影响。在短短几秒钟内，生成的AI可以生成一本看似专业的书籍或建立丰富的网站。但是这些作品通常只是一堆单词，缺乏真实的思想和价值。如今，在亚马逊等平台上，已经出现了大量由AI重写的“新书”。创作者可以通过对现有作品进行一些修改来声称自己是他们的原始作品。更令人担忧的是，这些AI生成的内容正在淹没互联网，使真实而有价值的信息越来越难以“看到”。那些一生都在抛光个人风格的画家可能会在一夜之间被AI完美复制，并且任何人都可以随意使用这些被盗的艺术风格。当年轻的艺术学生看到这种情况时，他们开始担心如果继续学*，他们是否可以确保将来的活力。艺术学院也受到了严重的影响，有40-50的学生没有看到未来，而是学*其他技能，这导致了一些具有百年历史的艺术学院的关闭。生成的AI破坏了他们的未来，他们甚至怀疑：在AI时代，将他们的一生献身于追求艺术梦是否有意义？ Zhao Yanbin的团队已经与世界各地的艺术家建立了沟通渠道，并几乎每天都会讨论他们。起初，Zhao Yanbin并不认为他们的研究可能会受到如此的关注和影响。实际上，大多数艺术家只有一个需要，也就是说，他们不希望人工智能干扰他们的正常生活。他们只想继续创作作品并将自己投入创作。 “当人工智能制作的作品更接近人类作品时，现实生活中的作品更有价值。” Zhao Yanbin认为，一项作品不仅需要好看，而且还需要以个人意义和情感深深地埋葬在其中。人工智能只能实现图片的颜色，结构等看起来很漂亮。在中国，我也与一些AI艺术家接触。他们通过AI产生自己的想法，然后创建生成的内容，最后制作作品。但是，他们使用AI来协助创建的作品也被窃，这是一种非常有趣且发人深省的现象。生成的AI必须非常模仿。如果每个人都互相模仿，那么我们将来看到的一切可能都是“单一的”风格和感觉，从创新的角度来看，这是灾难性的。大型型号最需要的是拥有更多新的信息来提供培训。如果这些创意者不再产生新的内容，那么大型模型的未来创造力会停滞不前吗？当然，有些人认为“模仿风格”也是艺术发展的一部分。在Zhao Yanbin的观点中，这里有一个关键区别：传统的艺术学*和AI模仿的本质是不同的。对于人类来说，学*另一个画家的风格是一个缓慢的渐进过程。当艺术家在街上看到一幅引人入胜的绘画时，他可能会从中获得灵感和灵感，但是永远不可能在五分钟内完全掌握其风格的本质，更不用说批量生产成千上万的类似作品了。

艺术家互相学*，但他们永远不会仅仅为了模仿而模仿，他们不会故意与原始艺术家建立直接的竞争关系。赵扬宾教授是科学研究人员的“灵感”，以其对AI保护工具的贡献而闻名。他是国际计算机科学学会（ACM）的成员，并赢得了许多荣誉，例如国家科学基金会早期职业发展奖，互联网国防奖和《麻省理工科技评论》 MIT技术评论的TR-35奖。最近，Zhao Yanbin被选为2024年全球前100名人工智能列表（Time100 AI），他是为数不多的选定学术研究人员之一。 ``大多数商人都占该列表，只有四到五位学术界的教授。赵扬宾说，我们的基础研究确实可以产生如此广泛的实际影响，这确实令人满意。 “选择吸引了一些媒体来传播我们的研究结果，这对这一研究方向产生了积极影响。”更值得一提的是，Zhao Yanbin的团队有机会与更具影响力的机构和个人建立合作关系。 Zhao Yanbin尤其是最近，与美国许多州的政府进行了交流，讨论了人工智能技术的当前发展状况及其潜在风险。作为一名科学研究人员，他深刻意识到，除了通过技术手段直接帮助艺术家外，我们还需要向政策制定者提供专业见解。如今，人工智能已成为全球科学研究界最热门的领域之一。无论是在中国，欧洲还是美国，该领域的研究人员数量远远超过了其他学科。这种快速发展的趋势也引起了隐藏的关注，并且在技术进步的过程中通常会忽略许多潜在的社会影响。 “因此，我们需要建立一个更完整的科学研究系统。”赵扬宾说，只有当技术的发展能够确保它对社会产生积极影响并有效避免负面影响才能真正取得健康和可持续的AI进步。 Zhao Yanbin的团队目前正在从多个维度上推进人工智能安全研究。一方面，分析了各种条件下AI模型的行为特征，包括攻击时的反应。另一方面，我们致力于开发保护机制，并在未来的可能挑战中进行前进的思考，例如如何将人类的作品与艺术创作领域的AI生成的内容区分开。人工智能安全研究实际上充满了不确定性，很难准确预测每种技术的所有可能后果。面对许多紧急问题，赵扬宾的团队优先处理最紧迫的挑战，测试了解决方案在实践中的有效性，并不断优化了研究方向。赵扬宾认为，在人工智能的未来发展中必须注意一件事。长期以来，计算机科学一直具有惯性思维：技术可行性是唯一的研究标准，科学研究是科学研究的。但是，在人工智能领域，这种心态不再适用，道德考虑和潜在影响同样重要。他呼吁年轻一代的AI学生拓宽视野，并在专注于技术突破时，应该学*人文和历史，并培养社会洞察力。这种跨学科的素养可以帮助他们判断：在什么情况下，技术进步确实有益，以及何时需要仔细考虑潜在风险。最终，衡量科学研究价值的核心标准不仅应该是论文或奖项的数量，而且该研究最终会带来社会的实际影响。这种责任感的觉醒可能是AI时代的科学研究人员最重要的灵感。