随着中国自主研发的DeepSeek人工智能技术迅速崛起，人工智能在各个领域的应用变得越来越普及，很多人都开始依赖AI来辅助日常生活和工作。然而，网络安全专家发出警告，过度依赖人工智能进行决策和判断，可能会带来潜在的安全风险。过度依赖AI不仅会影响人类判断力的独立性，更有可能让人们暴露在黑客攻击和数据泄露等安全隐患中。
在2023年举办的数字中国峰会上，来自北京网络安全公司奇安信（QAX）的董事长齐向东指出，随着AI技术的深度融合，特别是大型AI模型的出现，用户的决策可能会变得过于依赖这些AI系统，从而造成巨大的安全风险。齐向东还警告称，黑客可能利用AI系统的漏洞进行数据“毒化”或其他恶意操作，从而操控系统的决策，给社会带来潜在的威胁。
AI决策的潜在安全隐患
齐向东表示：“随着AI逐渐渗透到各行各业，特别是在自动化决策、推荐算法和人机交互方面，用户对AI的依赖越来越大。这种依赖性使得AI模型变得异常重要，它们的决策会直接影响到企业运作、政策制定甚至个人的日常生活。”他还指出，AI模型的决策虽然有时候表现出高度的准确性，但也不乏局限性。一旦这些模型遭遇攻击或被篡改，它们可能会给整个决策过程带来不可靠甚至错误的判断，从而引发严重的安全事故。
这种风险的存在主要来自于两个方面：首先，AI的决策过程可能会被外部黑客利用漏洞加以操控，通过“毒化”数据源，间接影响AI模型的输出；其次，AI内部操作团队的不当管理和数据更新，也可能导致错误的信息输入进系统，从而污染模型的学习环境，产生错误的输出。
DeepSeek的崛起：AI领域的新巨头
作为中国本土开发的人工智能技术，DeepSeek在AI领域的崛起备受关注。2023年1月，DeepSeek推出了一款与国际巨头竞争的聊天机器人，它的推出震惊了全球科技界，并在中国市场掀起了人工智能应用的新热潮。DeepSeek的成功不仅显示了中国在AI领域的创新能力，也为国内在全球高科技竞争中提供了一个新的突破口。
在中国政府的支持下，AI技术在社会各层面迅速得到应用。无论是在企业生产、政府服务，还是在医疗、教育等民生领域，AI技术的应用正在为人民生活带来极大的便利。然而，齐向东在峰会上的发言提醒我们，随着AI技术的深入应用，社会也面临着前所未有的安全挑战。
AI在医疗领域的应用：机遇与挑战并存
除了在企业和政府领域的广泛应用，AI还在医疗行业引起了巨大反响。一些偏远地区的医院开始使用DeepSeek的AI技术进行辅助诊断，尤其是在一些缺乏专业医生的地方，AI的帮助使得诊断工作得以高效进行。然而，也有不少人对AI在医疗领域的使用提出了疑虑，尤其是在涉及病理判断和处方的环节，AI技术是否能够完全取代医生的专业判断，还需要更多的实践和验证。
特别是在2023年2月，湖南省发布通知，禁止医院使用AI生成处方，强调AI不能代替医生的临床决策。尽管AI在医疗领域展现出了巨大的潜力，但在涉及患者生命安全的地方，依赖AI的决策仍然需要非常谨慎。
DeepSeek和AI技术在社会各领域的扩展
随着DeepSeek技术的不断发展，它已经渗透到中国多个城市的政府平台和服务系统中。一些地方政府开始将DeepSeek的AI技术应用于文件的自动起草和校对，甚至在一些地方，AI与监控系统结合，协助找寻失踪人员。这些应用不仅提高了工作效率，也让政府服务变得更加智能化。
然而，齐向东指出，随着AI技术在政府和社会服务领域的广泛应用，可能会面临更多的安全隐患。例如，AI在智能城市建设中的作用越来越突出，涉及到人们个人隐私和国家安全等敏感信息。如果没有健全的监管机制和安全防护措施，这些系统可能会遭遇网络攻击，甚至会被用于恶意监控。
加强AI安全监管的必要性
针对这些潜在的安全风险，齐向东提出了加强AI安全治理的建议。他强调，应该建立专门的监管机制，加强对AI系统核心数据的监控，确保AI的决策过程不被恶意操控。齐向东还指出，监管部门应该加强对数据泄露、信息篡改、虚假信息传播等行为的打击，确保AI技术在社会各领域的应用不受不法分子的侵犯。
2023年，中国的网络安全监管机构——国家网信办宣布启动了针对AI服务和应用的专项监管行动。此次行动将重点整治一些AI产品的不当应用，特别是那些未经授权提供医疗建议、误导投资决策以及影响未成年人健康的AI行为。政府希望通过这些举措来规范AI行业的健康发展，确保技术为社会带来正面的影响，而非成为危害公众安全的工具。
展望未来：如何平衡AI发展与安全风险
虽然DeepSeek等AI技术在中国的广泛应用为社会带来了巨大的便利，但也伴随着不少安全隐患。从人工智能的普及速度来看，AI技术已经渗透到日常生活的方方面面，从智能家居到自动驾驶，再到金融服务，无一不在影响着人们的生活方式。然而，在享受AI带来便利的同时，我们也必须清醒地认识到，AI的快速发展不可避免地会引发一系列的安全问题。
因此，未来中国政府和企业需要采取更加严格的措施，确保AI技术的安全性。这不仅包括加大对AI技术的监管力度，还需要加强对AI安全漏洞的排查，防止黑客和不法分子通过恶意攻击破坏系统，造成不必要的损失。只有在确保安全的基础上，人工智能才能发挥其真正的价值。
结语
AI技术的发展无疑为社会带来了巨大的机遇，但同时也伴随着一定的风险。DeepSeek等AI技术的应用，虽然让中国在全球AI竞争中占据了一席之地，但也引发了人们对数据安全和技术滥用的担忧。如何在发展AI技术的同时，保障公众的安全与隐私，已成为全球各国必须面对的重要课题。中国作为全球第二大经济体，如何在推动AI创新的同时，加强网络安全监管，确保技术的健康发展，将为未来科技的进步与应用提供重要的经验教训。
