随着中国自主研发的DeepSeek聊天机器人的广泛应用，人工智能技术正迅速融入各行各业，推动着社会的智能化进程。然而，随着AI的普及，网络安全专家警告称，过度依赖人工智能进行决策可能会带来严重的安全隐患。北京网络安全公司奇安信（QAX）董事长齐向东在近日举办的数字中国峰会上指出，大型AI模型带来了新的安全挑战，可能会暴露用户于黑客攻击和其他恶意行为之中。
AI技术对决策过程的影响
齐向东在福建省福州市的数字中国峰会上表示：“随着人工智能在各个行业的深入应用，大型AI模型将变得越来越强大，用户可能会过度依赖AI辅助的决策和判断。”齐向东还指出，从外部威胁角度来看，黑客可能利用AI模型的漏洞，进行数据“毒化”，操控模型的决策，从而实施恶意行为。而从内部操作角度来看，如果参与更新知识库的人员引入错误的信息，可能会污染模型的学习环境，导致错误的输出结果。
齐向东的警告揭示了AI在为社会带来便利和效率的同时，也可能带来严重的安全问题。尤其是在DeepSeek等国内大型AI模型的广泛应用下，如何有效管理和防范这些潜在风险，成为了亟待解决的重要课题。
DeepSeek的崛起：AI行业的新星
今年1月，中国AI初创公司DeepSeek推出了一款与国际竞争对手如ChatGPT相媲美的聊天机器人，迅速引发了科技界的关注，并且在全社会掀起了一场人工智能的热潮。由于国内外芯片技术受限，DeepSeek的成功为中国在人工智能领域的创新提供了强有力的支持，展示了中国科技在一定程度上抵御西方制裁的能力。
随着AI技术的不断普及，公众的接受度也在不断提高。许多社交媒体用户纷纷表示，AI技术已帮助他们完成翻译、写作甚至育儿等任务。农村地区的居民也开始借助AI聊天机器人获取有关养猪、农作物病虫害防治等方面的建议，显示出AI技术在各个领域的广泛应用潜力。
AI技术在医疗行业的应用
不仅如此，AI技术还迅速渗透到医疗行业。一些医生已经开始尝试使用人工智能来辅助诊断病情，尤其是在偏远地区和资源匮乏的医院中，AI被视为提高医疗服务效率和准确性的工具。然而，专家指出，尽管AI在医疗领域展现了巨大的潜力，但也有人对其在这一高度专业化领域的应用提出了质疑。2023年2月，湖南省发布了通知，禁止医院使用人工智能生成处方，强调需要对AI的使用进行更为严格的监管。
AI技术的政府应用与潜在风险
中国多个城市也已经开始将AI技术纳入政府服务平台，并在内部运营中广泛应用。例如，一些地方政府使用DeepSeek的模型来处理文件的起草和校对工作，还将AI技术与监控摄像头结合，用于帮助寻找失踪人员。然而，齐向东警告称，随着AI技术被越来越多地应用于公共管理和社会服务领域，潜在的安全风险也在不断增加。
齐向东提出，为了应对这些风险，应该建立健全的安全治理机制，加强对大型AI模型中核心数据的监控。这一机制可以包括监控、拦截和发布警报，以应对有害内容和异常访问行为，确保AI技术在各个领域的安全运行。
中国网络安全监管的新举措
面对日益严重的安全隐患，中国的网络安全监管部门也在积极采取行动。2023年，国家网信办宣布启动为期三个月的AI服务和应用监管专项行动。该行动旨在针对一些AI产品的不当应用进行整治，特别是那些未经授权提供医疗建议、误导投资建议和影响未成年人的虚假信息。
根据通知，专项行动还将重点整治AI生成的关于当前事件、公共政策、社会问题、国际事务和突发事件的谣言，并将对金融、医疗、教育和法律等领域的虚假信息进行打击。通过这一系列的监管措施，政府希望能够在推动AI技术发展的同时，确保其安全性和合法性。
AI的广泛应用：挑战与机遇并存
随着DeepSeek等AI技术在中国的广泛应用，人工智能已逐渐成为各行各业不可或缺的工具。然而，齐向东的警告也提醒我们，在享受AI带来的便利和创新的同时，我们必须时刻警惕其潜在的安全风险。如何在促进AI技术发展的同时，确保其安全性，已成为摆在政府、企业和科研机构面前的一大挑战。
AI技术的快速发展为社会带来了前所未有的机遇，但也伴随着诸多不确定性。从智能家居到自动驾驶，再到金融服务，AI正逐步渗透到生活的方方面面。正如齐向东所言，我们需要更加注重AI的安全治理，确保其在为人类社会带来便利的同时，不被恶意利用。
结语：如何平衡AI发展与安全风险
AI技术的发展无疑将推动各行各业的变革，但同时，我们必须认识到，随着技术的进步，新的安全挑战也在不断出现。DeepSeek等大型AI模型的广泛应用，提醒我们在享受智能化带来的便利时，不能忽视其潜在的安全隐患。为了更好地应对这一挑战，政府、企业和社会各界需要加强合作，建立健全的安全监管机制，确保AI技术能够健康、可持续地发展。
未来，随着监管机制的完善和技术本身的进一步优化，AI将能够为更多行业和领域带来革命性的变化。然而，只有在确保安全的前提下，人工智能才能真正为社会带来长远的利益。
