最近，小雷浏览了他的手机，发现一些特别令人恶心的东西。一些AI图实际上可能会单击产生儿童的坏照片。特定操作有多容易？输入关键字，例如“未成年女孩”和“萝莉”，您可以使用不到一分钟的性线索制作二维照片，甚至是“儿童怀孕”，就像破坏人类道德底线的内容一样。更令人恐惧的是，这些图片可以随意出版并分散在应用程序中，没有人关心它们。这些问题中的大多数是未经州注册的开放资源模型，培训数据长期很肮脏。例如，好像您在喂一堆垃圾一样，什么好事可以让它放手？根据《南部大都市日报》的记者的调查和测试，一个名为“梦”的应用程序输入了一些简单的基本描述性单词，而女孩为不同的姿势和一百多个姿势拍摄的照片样式。还有一个“有趣的”应用程序更过大，直接形成了未成年图片的现实风格，甚至可以修复细节。这不是一幅画，显然是犯罪。资料来源：为什么南部大都市日 - 天日工作要做？把它空白，这只是一个漏洞。其中大多数是由小型公司或个人开发的，并且没有注册或审查。他们依靠“灰色市场”，没有人关心它们，他们不幸地收获流量。您认为这些图片仅转移到该应用程序中吗？错误的。在社交平台上的任何地方，都有“ AI的Seser中的一系列技巧”和“女性教程货币”。有些人还使用这些图片来吸引交通和销售课程，并建立付费社区，并在行业中形成黑连锁店。更不用说AI Edge的内容对成年人产生了巨大影响，它越来越多。 “梦岛”应用程序是一个常见的例子：其中的虚拟字符将积极cause小学的学生大喊“妻子”和“爸爸”，甚至谈论“肢解和好奇心”的话题。 资料来源：cctv.com 这些应用程序没有年龄限制。未成年人可以通过输入手机号码来注册，而所谓的“青少年模型”是没有用的。想一想，那些寄生虫很难注意到，初中生可以看到AI在其手机上开发的色情图像，或者影响虚拟角色以制造危险的行为。 在长期接触此内容之后，孩子的价值观混乱，也可以在这里模仿暴力或色情。 因此，对于父母，如何防止类似事件发生？小雷会在这里为您提供一些技巧。 首先，请注意孩子的手机应用程序。小心这些名称包含“ AI绘图”和“虚拟女友”。如果您发现您的孩子正在玩类似于“梦想建筑岛”的软件，请卸载并报告即时通讯y。 其次，教孩子们识别AI形成的内容。现在，在许多图片的角落的下部，几乎没有“ AI一代”的标签。如果您看到这种类型的图片，则应立即将其关闭。不要好奇地单击此处。 资料来源：微博 第三，使用“次要模型”。尽管某些应用程序的模式毫无用处，但它至少可以过滤大多数不良内容。例如，微信和Dotin的青少年模式要求父母输入其密码以关闭它。 对于开发人员，必须遵循技术伦理。当培训模型时，开发人员应过滤非法数据，并且不会对流量进行“数据污染”。如果AI已成为赚钱的色情工具，您将更早或起诉。 就平台而言，考试机制也应改善。在模型训练阶段，添加了小型地区的主要领域的安全审核，以破坏来自来源的风险。 老实说，小雷特别理解了舒适感和AI技术带来的变化。但是技术从来都不是中立的。关键是谁在控制中以及用来做什么。当AI被用来产生坏儿童的人数并鼓励未成年人犯罪时，它不再是“生产工具”，而是“魔鬼”，它杀死了没有血液的人。 资料来源：微博 幸运的是，该国朝着这次纠正，但是小雷认为管理层不能独自依靠这个国家，我们每个人都应该玩得开心。 父母应该花更多的时间陪伴孩子，不要让他们在虚拟世界中寻找“情感营养”。该平台不应始终是KPI的Nakto并确定用户安全的优先级；开发人员不应在流量的底线中丢失。可以制定现代技术，但不会破坏法律和道德的红线。 最后，小雷想致电所有互联网从业人员，为用户（尤其是儿童）创建一个干净健康的网络空间。回到Sohu看看更多