近期，一些不法分子利用AI技术编造谣言，严重扰乱社会秩序。他们通过AI软件生成虚假新闻和图片，短时间内能生成大量文章，一天最多可达7000篇，以此赚取平台流量补贴。这些谣言往往模仿新闻风格，包含惊险细节，更具迷惑性。
公安机关对此类违法行为进行了严厉打击。江西一家MCN机构因发布多条AI生成的谣言信息被查处，实际控制人王某某被行政拘留5日，机构停业整改。在重庆，个人康某某也因编造民房爆炸谣言被依法行政拘留，并收缴违法所得。
专家指出，平台应履行相应监管责任，合理强化违法成本。平台在刺激创作的同时，应尽到消除虚假信息传播的责任，对散布谣言者采取惩罚机制。法律也应匹配违法人员的违法成本，以遏制此类行为的蔓延。网络并非法外之地，对于发布不实言论、扰乱社会秩序的行为，公安机关将坚决依法处理。
天眼查专业版数据显示，截至目前我国现存在业、存续状态的人工智能相关企业超424.3万家。其中，2025年截至目前新增注册相关企业约28.6万余家，从企业注册数量趋势来看，近五年间，人工智能相关企业的注册数量呈现出逐年增长的态势，并在2024年达到顶峰。
从区域分布来看，广东省以超过63.6万余家的人工智能相关企业数量位居首位，占全国企业总数的15%；排在其后的是江苏省、北京市、山东省和浙江省，相关企业数量分别是超过33.6万余家、33.1万余家、29.2万余家和25.2万余家。
此外，通过天眼查天眼风险和深度风险来看，涉及司法案件的人工智能相关企业约占总数的2.22%。
