分析人工智能技术的应用有哪些风险？

近几十年来，人工智能经历了真正的繁荣，在语音识别和自动驾驶汽车等各个领域都有应用。但从史蒂芬霍金(几年前去世)到埃隆马斯克和比尔盖茨的知名人士警告我们人工智能可能存在的风险：从“奇点”或机器完全控制人类的危险到网络——攻击。几项研究强调了机器学习作为网络犯罪媒介的隐患：对数字安全的威胁不仅涉及隐私和数据盗窃，还涉及完全连接的生态系统中人们的功能安全。这项研究由来自牛津、剑桥、斯坦福、耶鲁和巴斯等多所大学的众多专家进行。

人工智能和相关技术的出现为网络安全带来了新的潜力，这实际上是一把双刃剑，如果落入坏人之手，可能会变得危险。多年来，拥有完美的网络安全策略或解决方案的重要性日益增加。所有功劳都归功于智能设备的普及。此外，由于不断增长的端点始终连接到 IoT 生态系统，网络犯罪分子现在有大量机会渗透设备。由于存储的数据量很大，大数据泄露可能在系统性能和功能安全方面造成毁灭性后果。这是因为大规模的数据安全漏洞可能会影响大量的人，其后果不仅是从声誉的角度来看，但会产生巨大的法律影响。组织需要确保他们在数据有用性和隐私之间取得适当的平衡。在存储数据之前，应删除用户的任何唯一标识符。这本身就是一个安全挑战，因为删除可能不足以确保数据在未来保持匿名。

随着组织存储更多数据，他们面临着硬件和软件加密的挑战。如果云需要执行分析，则用户无法加密发送数据。一种解决方案是使用“完全同态加密”(FHE)，它允许存储在云中的数据对加密数据执行操作。当数据被解码时，对纯文本数据执行的操作的结果将是相同的。因此，云将能够在不知道明文数据的情况下对加密数据执行操作。行业专家分析了黑客和安全专业人员对机器学习算法的大量使用。一场无拘无束的战斗，将拉紧企业防御，如果处理得当，还可用于对特定目标进行系统内攻击，从错误中吸取教训，成为一个不可战胜的系统。在漏洞搜索中与自动化共生将促使网络犯罪分子加快实施病毒的操作，并随后搜索进一步的系统弱点。例如，网络犯罪分子可以使用这些功能扫描软件以查找以前未知的漏洞，并将其用于非法目的。机器学习可以提供对不良行为的洞察，补充通过其他方式获得的情报。它还允许更大的敏捷性和灵活性，因为基于 AI 的工具通常比其他工具更快地部署和更快地交付操作效果。毕竟，智能安全系统可以战胜任何复杂的威胁，

由于世界各地的高科技公司和政府的投资，人工智能已经成为一个竞争激烈的行业，并且正在迅速扩张。Markets and Markets 最近的一项研究预测，未来几年的复合年均增长率 (CAGR) 将超过 60%，价值将超过 150 亿美元。硬件创新也出现了强劲增长，这些创新提高了计算机的操作能力，能够在不同的 GPU 平台上执行更复杂的模型。

大多数单独的人工智能技术将用于自动化各种机器人控制的任务，这些任务能够做出可能对整个数字生态系统产生负面影响的关键决策。自动化的智能机器可以评估最有可能受到攻击的目标。使用先进技术，人工智能可以通过操纵系统和禁用安全组件来隐藏“网络感染”。一旦系统被感染，它们就可以用来传播各种计算机病毒，包括高级形式的勒索软件。

目前，大多数网络犯罪组织通过修改其源代码来使用各种知名的勒索软件系列来产生不同的样本。以类似的方式，人工智能技术将能够创建自己的自定义恶意软件，可能从头开始并通过实施先进的机器学习算法。物联网设备(例如医疗设备)很可能是主要关注点，它们背后的资源和数据也是如此。要考虑的案例不仅关注计算机病毒，还关注与机器人和无人机相关的方面。从用于消费或工业活动的简单机器人，到无人机和未来用于民用的飞行出租车，这些都可能变成潜在的危险武器并容易受到远程操纵。

许多工程师和分析师估计，下一次主要的人工智能支持攻击可能会在几年内发生。最大的问题仍然是身份盗用、拒绝服务攻击和密码破解。在日益数字化的世界中，此类攻击可能会削弱许多人的权力并影响公共机构的行政活动。人工智能可能是鱼叉式网络钓鱼攻击的关键，收集和处理数据库以轻松链接来自不同来源的信息并发起最佳攻击。许多攻击可以与人工智能协调，这可能会混淆医生的诊断。恶意 AI 可用于在理论上无法衡量的规模上协调黑客攻击。安全专家推测，最大的危险可能来自利用机器的巨大计算能力创建新病毒样本的人工智能。通过设计，他们可以分析当前的病毒弱点并生成高级表格。第一个缺点可能是计算成本高。但随着时间的推移，它们将不可避免地减少。许多组织已经开始与人工智能恶意软件作斗争，为未来的潜在攻击做准备，网络安全专家正在了解这一风险，但随着人工智能理论上的无限潜力，管理变得复杂并严重危及 IT 安全。此外，人工智能有望支持物理、化学和医学各个领域的研究。