7月22日, 由汹涌新闻网主办的“新潮·汹涌”2021外滩新媒体峰会在上海拉开帷幕。数美科技CTO兼联合创始人梁堃受邀参加了《新技术助力网络内容生态管理》圆桌论坛, 针对AI辨认违规内容所面对的应战及机器辨认涉政违规信息等内容做了深入。网络安全, 是国家数字化战略的“底盘”。内容安全,

是国家数字化战略的“方向盘”。关于文字、图片、音频、视频等多种形状的网络信息, 咱们在审阅时面对哪些应战?数美科技CTO梁堃表明, 经过AI辨认违规内容面对三个应战：第一个应战是内容量大, 怎么进步机审注视是头一个应战。
       比方, 每天数美科技AI实时审阅的音频累计时长超越100年。这就对渠道的处理注视、稳定性提出了应战;第二个应战是内容安全界说比较“泛”, 需求辨认的维度十分多。
       比方, 数美科技视频/图片产品以标签的方式界说了上千个不同的违规类型, 背面有27个不同的视觉AI模型在辨认这些标签;第三, 做违规内容辨认时, 发布人或许存在“对立性”。关于“对立性”, 梁堃解释道, “比方策略的变体、暗射, 或者是在漫画和视频中涂改、修正, 或经过影子和镜子来传达信息”。梁堃表明, 这就需求在辨认算法上不断改进。
       现在, 数美科技不只有用于辨认说话内容的人工智能技术, 还有用于对立黑产的根据行为画像的全栈式实时智能风控引擎“天网”, 经过内容+画像的组合拳, 才能够到达更好的辨认作用。针对当时涉政违规信息机器辨认率相对不高的问题, 梁堃表明, “涉政”的概念是比较广泛的, 模型对一个文本、图片是不是涉及到政治能够辨认的很好。关于涉政内容的各种变体, 数美科技研发了专门的变体引擎, 也基本上处理了这类问题。现在,

模型面对的应战——“导向是否正确”, 针对这个应战咱们研发了正负向标签, 有望处理这些问题。现在最好的处理方案是机器先审阅, 再经过人工判别导向是否正确。现在网络空间每天新增的信息数以亿计, 网络内容生态管理不容忽视。
       2021外滩新媒体峰会上, 数美科技CTO梁堃与数位业界专家环绕《新技术助力网络内容生态管理》打开精彩研讨, 为广阔职业从业者供给了更多落地的光亮方向和思路。未来, 数美科技将以AI力气继续赋能网络内容生态管理, 明亮清明网络空间, 饯别年代担任。