AI生成图像让企业蒙受损失

admin

AI生成图像让企业蒙受损失

作者：James Bentley
来源：The Times of India
引用：https://economictimes.indiatimes.com/tech/artificial-intelligence/how-ai-generated-images-darkened-the-picture-for-enterprises/articleshow/126291840.cms

随着人工智能图像工具的普及，用户能够创造出逼真甚至完美的复制品，有时甚至用于制造虚假声明。专家表示，这可能导致企业在电商和快速商业领域遭受真正的经济损失。例如，11月，一名快速商业平台用户据称创建了一张装有裂痕鸡蛋的AI生成图像，以索赔退款。这一事件表明，所有依赖视觉证据作为事故或交易证明的公司都可能遭受损失。Contrails AI联合创始人Ami Kumar表示：“只有升级其信任和安全层级的平台才能在欺诈竞争中生存。”他指出，大多数当前的支持工作流程没有深伪检测、操纵取证、显著性检查或验证客户或卖家提交媒体真实性的方法。这尤其在快速商业或电商领域，AI增强的退款欺诈可能会破坏单位经济。无论行业如何，企业都在意识到这种虚构声明的风险。即使是公司内部的报销申报或提交保险索赔也可能在2026年受到进一步审查。一些人说，证明和盖章的时代可能会回归。一位不愿透露姓名的制造公司高级管理人员表示：“我们已经开始要求提交纸质账单和数字账单。”他说：“我们之前不再要求提交纸质账单，但最近有几起员工提交虚假账单的事件，我们现在将其作为政策执行。”CloudSEK网络安全公司联合创始人Rahul Sasi表示，这个问题远远超出了零售领域。他认为，保险、物流、银行、合规、建筑甚至内部费用管理领域都将面临类似的风险，因为视觉“证据”变得容易伪造。Sasi表示，公司不会完全回到纸质时代，但它们将添加验证层，如元数据检查、溯源和选择性人工审查，以恢复对数字证据的信任。Dhruv Garg，印度治理和政策项目创始董事表示，AI颠覆了与基于图像的证据相关的信任观念，给公司带来了严重的现实挑战，也给更关键的功能带来了挑战。他担心，像e-KYC这样的服务也可能在未来使用AI工具被操纵。然而，Garg也认为，基于溯源的认证和区块链技术可能提供一些解决方案。Kumar表示，像C2PA（内容溯源和真实性联盟）这样的联盟正在积极与AI公司合作，引入一个系统，为AI生成的内容添加小签名。他认为，这些措施也可能有所帮助，但在短期内，特别是在印度，公司可能会实施人工验证机制。然而，他重申，从长远来看，只有计算机视觉、深伪检测工具和其他技术才能在规模上解决这个问题。