AI技术在日常生活中广泛应用，从外卖、购物平台的店铺和商品图，到公司海报、资讯新闻，甚至社交媒体的评论，AI无处不在。然而，AI生成的虚假图像和视频也开始泛滥，误导公众。例如，美国加州山火期间，网上流传的“好莱坞被烧”图片和视频实为AI生成，造成了不必要的恐慌。

AI生成虚假图像和视频的风险巨大，不仅可能引发社会层面的不安和混乱，还会过度消耗网友的同情心和爱心，导致对真实灾情信息的怀疑和抵触。此外，AI技术在商业和学术领域的应用也带来了问题，如淘宝天猫商家的AI产品图和学术论文中的AI配图被撤稿。面对AI垃圾充斥互联网的现状，平台需要承担起主体责任，采取主动和预防性的管制体系，加强AI内容的审核、治理和监管。