应用商店内出现大量以“Sora”“Sora AI”等命名的应用,宣称可提供AI视频生成服务。
今年2月,美国人工智能企业OpenAI发布AI视频生成模型Sora,凭借出色的视频生成效果引发全球广泛关注。虽然该模型尚未大规模开放使用,但已有不少投机者盯上了这块“蛋糕”。
一款年费高达298元的“文字生成视频AI相机”,却花费三小时也生成不了一个视频;一款自称是视频写作机器人的应用,却只能进行简单对话,实际上是“套壳”AI……南都大数据研究院监测发现,近期应用商店App Store出现大量以“Sora”“Sora AI”等命名的应用,不少消费者被诱导下载并付费订阅会员服务,却发现其并不具备AI视频生成能力。
专家提醒,应该警惕这类以AI为噱头提供服务,背后却可能利用“套壳”网站套取用户隐私,或利用信息差“割韭菜”、蹭热点流量的行为。
自2月16日发布至今,OpenAI一直未大规模对外开放Sora的体验名额。但南都研究院不完全统计,截至3月15日上午,应用商店App Store内已上架至少20个在应用名称、副标题或介绍页内带有“Sora”字样,并宣称可为用户提供AI视频生成服务的应用程序,其中不少在介绍页面上配以“官方正版”“原版模型”等宣传语,甚至直接配上OpenAI此前公开的Sora生成视频吸引用户。
这些“Sora”们是否真的抢先接入了模型?它们是否具备如介绍页面宣传般强大的AI作品生成能力?南都记者从苹果应用商店选取了6款名称中带有“Sora”字样的应用进行实测。
实测发现,这6款应用虽然都可免费从苹果应用商店下载,但打开后均要求用户订阅其付费会员服务,价格从148元/年到488元/年不等,否则只有1-3次的体验次数,消耗完毕后便无法继续使用。
进一步体验发现,其中只有两款应用为用户提供了AI视频生成功能的入口,但均存在“无法生成视频”或“视频质量极差”等问题,其余4款应用只具备AI对话、图片生成等功能。
业内人士向南都记者透露,这批山寨Sora应用均为“挂羊头卖狗肉”,实际接入的是其他已公开的AI模型。
以名为“Sora AI Video Generator Monet”的应用为例,其名称和介绍页面均含有“Video Generator”(视频生成)、“Create AI Video”(创作AI视频)等字样,但南都记者下载并打开该应用后发现,其只有AI图片生成功能,且实际调用的是stable diffusion、DALL-E、Midjourney等AI绘画模型。据南都记者了解,stable diffusion作为开源AI绘画模型,正式发布以来一直免费向用户开放,但该应用接入此AI模型后,对消费者收取的会员服务价格却高达148元/年。
南都记者打开另一款名为“SORA AI-中文版AI视频写作”的应用,发现其只具备AI对话功能。此外,当南都记者向该AI询问其开发者时,AI称自己实际上是来自国内某公司的大语言模型。这样一款以Sora为噱头、实际却仅接入其他大语言模型的应用,其会员服务价格达68元/月。南都记者留意到,该应用实际接入的大语言模型目前已免费向普通用户开放,即使订阅会员体验更高级版本,连续包月价格也不过49.9元/月。
苹果应用商店内,多名被“Sora”“AI生成视频”等关键词吸引而来的消费者在相关应用评论区中大吐苦水,称付费订阅应用会员后,其视频生成服务仍一直处于排队状态,无法使用。更有消费者直指相关应用是“打着Sora的名义来骗钱”。
一款名为“Sorar-AI文字生成视频AI相机”的应用虽然确实提供了AI视频生成功能的入口,但仅限已付费用户使用,且最多只能生成8秒视频,显然与真正的Sora模型能力存在极大差距。该应用年度、月度以及周会员费用分别为298元、68元和28元。南都记者花费28元购买了该应用的周会员,要求其生成一个“男孩踢足球”的8秒视频,但排队3小时后仍未等到结果。此后多次尝试才生成一个质量粗糙、动作迟缓卡顿的视频。
根据苹果应用商店公示的开发者信息,南都研究院发现的20款山寨Sora应用开发者都不是OpenAI或其关联企业,而是来自全球各地的不知名企业甚至个人开发者。其中8款应用的支持网站指向欧美地区IP,1款应用的开发者为新加坡企业,6款应用指向我国境内,其余应用来自个人开发者,未能追踪所在地域。
即便是位于国内的开发者,南都记者发现他们大多也仅以云文档等方式展示用户协议和隐私政策,既未说明企业完整名称,也未提供联系地址。其中一款名为“Soraka ai视频ai绘画中文版”的应用开发者指向安徽宿州一家企业。南都记者数次尝试拨打该企业联系电话,但无人接听。
七麦数据显示,这批山寨Sora应用绝大部分在Sora模型发布前已经在苹果应用商店上架,且早期应用名称与Sora模型毫无关联。
以“Sora Ai-A robot that talks”应用为例,其首次上架日期为2023年5月29日,最初的名称是“ChatBox-Ai智能对线日却突然在应用名中加入“Sora”字样。另一款“Sorar-AI文字生成视频AI相机”应用于2022年11月10日以“AI艺术画家-AI画画”的名称上架,过去两年曾先后改为“妙丫相机”“Sora AI”“Evenlite AI”等多个不同名称,蹭热点流量意味明显。
对苹果应用商店上架的这批山寨Sora应用,广东卓信律师事务所合伙人律师邝敏维认为,若此类应用在名称和介绍页面里以“AI视频生成”“创作AI视频”等字样吸引用户,实际却无法提供该服务,相关行为属于虚假宣传。消费者有权要求应用提供者退款。
泰和泰(深圳)律师事务所合伙人律师易怀炯、律师洪瑞成也指出,这种“借Sora之名”的经营及宣传模式,存在明显构成虚假宣传及欺诈的法律风险。此外,还可能构成混淆行为。应用提供者须按照《反不正当竞争法》《消费者权益保护法》及《广告法》等法律规定承担行政责任及民事责任。
此外,有相关业内人士向南都记者表示,这些山寨Sora应用大多只是接入了已公开的AI模型。目前国内数家知名企业的AI大模型能力已经免费向公众开放,普通消费者没必要付费订阅这类第三方“套壳”应用。此外,消费者通过这类“套壳”应用向AI提交的数据还可能被应用开发者从中截取,存在一定的风险。
对此类借Sora热潮“掘金”的案例,中兴微电子首席科学家徐科在接受媒体采访时表示,需要警惕这背后的不良现象,比如以Sora为噱头提供服务,有可能是利用“套壳”网站套取用户隐私,或利用信息差“割韭菜”、蹭热点流量等行为。
易怀炯律师、洪瑞成律师认为,互联网时代下,热点日新月异,产品的创新也十分活跃。监管部门及平台企业应当持续关注新的社会热点及相关创新活动,及时对“新瓶装旧酒”的“新违法违规”情形进行总结、监管及辅导。帮助企业理解合规经营、正当竞争之道,真正行稳致远、共同创造良好的市场环境。
除苹果应用商店外,南都记者还对华为、小米、vivo、OPPO四家不同品牌手机的内置应用商店进行检索。虽然同样从中检索到如“Sora视频助手”“Sora视频宝”“Sora视频生成器”等带有“Sora”字样的应用,但这些应用均在介绍页面中明确其属于视频剪辑软件,与AI模型没有关联。
长期以来,苹果在应用审核方面自诩比同行严格许多,但回顾过往媒体公开报道可以发现,其应用商店上架应用“挂羊头卖狗肉”乱象由来已久。早在2011年9月,苹果应用商店就曾被曝光下载排行榜出现涉黄应用;2018年,国家网信办集体约谈28家应用商店、社交平台和云服务企业,对其履行主体责任不力、客观上为违法违规App提供接入通道、扩散渠道提出警告;2021年8月,南都大数据研究院也报道过苹果应用商店内部分应用伪装成购物商城、益智游戏,实则提供涉黄涉赌服务;2023年7月,有网友发帖曝光苹果应用商店内存在伪装成菜谱类应用的涉诈应用程序;2023年10月,再有媒体发现苹果应用商店内有应用伪装成学习应用上架,甚至一度冲上“教育”类别下载排行榜前三位。
南都记者查阅苹果应用商店审核指南看到,其标称开发者提交的应用都会经过一系列安全审核,并要求开发者不得以欺骗的方式抬高价格,或针对未能交付的功能或内容收取费用;必须在App Store或替代App市场上准确地表述你自己、你的企业和你提供的App等。
既然如此,这些“货不对板”的应用是如何堂而皇之上架的呢?有iOS应用开发者告诉南都记者,相比起初次提交审核,苹果对已上架应用的后续更新审核较为宽松,这类应用很可能在提交初始版本给苹果时,并没有添加违规内容,即伪装成正规应用通过审核,之后再通过热更新、马甲包、幸运按钮激活等方式露出本来面目。
此外,也有相关业内人士告诉南都记者,目前针对应用商店内涉嫌虚假宣传、违法违规的App,苹果并未设置直接的投诉通道。这也导致在用户发现违规、不良应用时,面临举报困难,流程复杂的局面。
南都记者实测发现,对苹果应用商店而言,若用户希望对某一应用发起投诉,必须先获取并下载该应用,随后商店内才会提供该应用的“报告问题”选项;但对小米、vivo等其他品牌手机内置应用商店,用户均可在未实际下载的情况下对应用发起举报,便于及时向商店运营方反馈。
对此,易怀炯律师、洪瑞成律师指出,互联网应用程序分发平台负有信息内容管理主体责任。应用上线前,平台应当对申请上架和更新的应用程序进行审核,发现应用程序名称、图标、简介存在违法和不良信息,平台不得为其提供服务。应用上线后,平台还应落实管理职责,对存在风险隐患,违法违规收集使用个人信息,损害他人合法权益等违法行为的应用程序,不得为其提供服务。对违反相关法律法规及服务协议的应用程序,应用程序分发平台还应当依法依约采取警示、暂停服务、下架等处置措施,保存记录并向有关主管部门报告。
针对移动应用程序监管,南都记者留意到有关部门已在强化监管工作。2023年7月,工信部发布《关于开展移动互联网应用程序备案工作的通知》,要求在2024年3月底前,我国境内从事互联网信息服务的APP主办者履行备案手续。
2024年4月至6月底,电信主管部门将组织对APP备案情况开展监督检查,对仍未履行备案手续的APP依法进行处置。此后,各地通信管理局也将定期组织网络接入服务提供者、分发平台、智能终端生产企业开展APP备案信息准确性考核工作,采取有效技术措施加强APP合规管理,提升监管水平。
有相关业内人士认为,通过App备案,主管部门可以更直接、有效地掌握App及其开发者的基本信息,若发现诸如应用乱蹭热点、不良应用伪装成正规应用等情况时,能及时下架处理,且直接定位到相关责任人,有利于促进App开发者自律,有助于打击违法违规App。