据CNN报道，OpenAI在10月7日发布“公共威胁报告”披露多个疑似与中国政府有关的ChatGPT账户因违反安全政策被封禁。报告指出，这些用户曾利用ChatGPT协助设计大规模监控系统及社交媒体监听工具，用于追踪所谓“高风险人员”及识别“极端言论”。
据CNN与《德国之声》报道，OpenAI发现部分中文用户请求ChatGPT协助撰写可分析维吾尔族及其他少数群体出行轨迹、警务记录的提案；另有用户要求AI生成一套用于推广扫描X（原推特）、Facebook等平台政治与宗教内容的“宣传材料”。OpenAI表示，这些行为违反公司安全准则，两名用户已被永久封禁。
OpenAI首席调查员Ben Nimmo指出，中国正推动将AI技术应用于更大规模的监控与社会管理，“中共并非首次监控公民，但现在他们认为AI可以让这一体系更高效。”
报告还指出，这些国家行为体更多是利用AI完善现有技术手段，而非创造新型攻击方式。例如，中国和俄罗斯的网络行动人员一直难以避免语言错误，而AI的使用正在帮助他们提升社交媒体影响行动的质量。
针对报道，中国驻美使馆发言人刘鹏宇回应称，中方反对“毫无根据的攻击和抹黑”，并强调中国正在构建具有中国特色的AI治理体系，“在发展与安全之间寻求平衡，兼顾创新、安全与包容”。
报告同时提到，除中国外，俄罗斯、朝鲜等国的黑客也在使用ChatGPT改进编程、提升钓鱼邮件可信度等操作。OpenAI还发现，东南亚（如缅甸）的一些诈骗团伙利用其模型处理财务数据或查询刑责信息。