Deep North是一家总部位于加利福尼亚州福斯特市的初创公司，将计算机视觉应用于安全摄像头镜头，今天宣布它在 A-1 轮融资中筹集了 1670 万美元。首席执行官 Rohan Sanil 表示，在 Celesta Capital 和 Yobi Partners 的带领下，在 Conviction Investment Partners 的参与下，Deep North 计划利用这些资金“大规模”招聘和扩展其服务。

Deep North，以前称为 Vmaxx，声称其平台可以通过改造安全系统来跟踪购买并确保遵守屏蔽规则，从而帮助实体零售商“拥抱数字化”并抵御 COVID-19。但该公司的系统依赖于存在潜在缺陷的算法，引发了对隐私和偏见的担忧。

“即使在全球大流行迫使零售商关门之前……企业也在努力与快速增长的在线消费者群竞争，”萨尼尔在一份声明中说。“随着商店的重新开业，零售商必须采用具有数据驱动、基于结果的计算机视觉和人工智能解决方案的创造性数字解决方案，以便更好地与在线零售商竞争，同时适应 COVID 安全实践。”

人工智能监控

Deep North 由 Sanil 和 Jinjun Wang 于 2016 年创立，后者是多媒体信号处理、模式识别、计算机视觉和分析方面的专家。王 - 现在是中国西安西安交通大学的教授 - 在加入爱普生的研发部门担任高级技术人员之前，他曾是 NEC 的研究科学家。Sanil 在 Deep North 之前创立了多家公司，包括 Akirra Media Systems，Wang 曾在那里担任研究科学家。

“2016 年，我开创了对象检测技术，帮助推动在线视频中的定向广告。当一个主要品牌看到这一点时，他们要求我创建一种方法来识别、分析和分类在他们的主题公园的安全摄像机上捕获的物体，”Sanil 通过电子邮件告诉 VentureBeat。“我的探索启发了开发，这将释放客户物理环境中安装的闭路电视和安全摄像机的潜力，并在任何形式的视频中应用物体检测和分析。”

在 2018 年在中国和瑞典开设办事处并进行品牌重塑后，Deep North 扩大了其计算机视觉和视频分析产品的可用性，这些产品提供对象和人员检测功能。该公司表示，其实时、人工智能驱动且与硬件无关的软件可以了解客户在“各种市场”(包括零售商、杂货店、机场、得来速、购物中心、餐馆和活动。

Deep North 表示，零售商、购物中心和餐厅尤其可以使用其解决方案来分析客户的“热点”、座位、入住率、停留时间、凝视方向和等待时间，利用这些洞察力确定分配店员或厨房的位置职员。商店可以通过将跟踪数据与一天中的时间、位置、营销事件、天气等相关联来预测转化率，而购物中心可以利用租户统计数据来了解趋势并确定租户之间的“协同作用”，优化商店布局和交叉租户促销。

“我们的算法经过训练，可以检测运动中的物体并生成关于物理环境的丰富元数据，例如参与、路径和居住。我们的推理管道将摄像头信息和算法结合起来进行实时处理，”Deep North 在其网站上解释道。“[我们] 可以通过云和内部部署进行部署，并在几个小时内上线。我们的可扩展 GPU 边缘设备使企业能够将数据处理直接引入其环境，并将其财产转换为数字 AI 财产。视频资产永远不会离开前提，确保最高级别的安全和隐私。”

除了这些解决方案之外，Deep North 还开发了用于社交距离和卫生等特定用例的产品。例如，该公司提供的产品可以监控洗手情况并估计机场值机柜台的等待时间，以及检测口罩的存在并跟踪停机坪上维修工人的状态。

“借助 Deep North 的口罩检测功能，零售商可以轻松监控大量人群并接收实时警报，”Deep North 解释其社交距离产品时说。“此外，Deep North ……监控消毒措施的时间表和覆盖范围以及每次清洁活动所用的总时间……使用 Deep North 的大量数据，[购物中心可以] 创建租户合规记分卡，以对工作进行基准测试、跟踪整体进度、课程-必要时更正。[他们] 还可以通过在我们的仪表板和移动应用程序上监控实时占用情况，确保本地和区域范围内的多个物业都遵守占用限制。”

偏见问题

与大多数计算机视觉系统一样，Deep North 接受了图像和视频数据集的训练，这些数据集显示了人物、地点和事物的示例。这些数据集中的不良表示可能会导致伤害——特别是考虑到人工智能领域通常缺乏对偏见的明确描述。

之前的研究发现ImageNet和 Open Images 这两个大型的公开图像数据集以美国和欧洲为中心，编码关于种族、民族、性别、体重等的人类偏见。在这些数据集上训练的模型在来自全球南方国家的图像上表现更差。例如，与来自美国的新郎图像相比，来自埃塞俄比亚和巴基斯坦的新郎图像分类精度较低。由于“婚礼”或“香料”等词语的图像在截然不同的文化中呈现方式，物体识别系统可能无法对来自全球南方的这些物体进行分类。

偏差可能来自其他来源，例如北半球和南半球之间的太阳路径差异以及背景风景的变化。研究表明，即使相机模型之间的差异(例如分辨率和纵横比)也可能导致算法在对其训练检测的对象进行分类时效率较低。

科技公司历来都将有缺陷的模型部署到生产中。ST Technologies 的面部识别和武器检测平台被发现更容易误认黑人儿童，并经常将扫帚柄误认为枪支。与此同时，沃尔玛的基于摄像头的AI-和防盗防窃技术，它是通过提供Everseen，去年五月备受瞩目对其据说穷人的检出率。

Deep North 没有在其网站上披露它如何训练其计算机视觉算法，包括它是否使用合成数据(有其自身的缺陷)来补充现实世界的数据集。该公司还拒绝透露是否考虑了可访问性和存在重大移动问题的用户。例如，残疾人的步态或肢体运动模式可能与根据健全人的镜头训练的算法不同。

在一封电子邮件中，Sanil 声称 Deep North “拥有世界上最大的训练数据集之一”，源自真实世界的部署和场景。“我们的人体物体检测和分析算法已经接受了超过 1.3 亿次检测、数千个摄像头输入和各种环境条件的训练，同时为我们的客户提供了准确的见解，”他说。“我们的自动化和半监督训练方法可以帮助我们快速构建新的机器学习模型，同时使用最少的训练数据和人工干预。”

隐私和争议

虽然像 Deep North 这样的产品声称的目标是健康、安全和分析，但该技术可以用于其他不那么人道主义的意图。许多隐私专家担心，他们将使更高级别的监控正常化，捕获有关工人运动的数据，并允许经理以生产力的名义惩罚员工。

Deep North 对争议并不陌生，据报道，它与德克萨斯州、佛罗里达州、马萨诸塞州和加利福尼亚州的学区和大学合作，试点使用人工智能和摄像头检测威胁的安全系统。Deep North 声称，该系统已停产，可与分辨率低至 320p 的相机配合使用，可以在识别无人看管的包和潜在武器等物体的同时解释人们的行为。

Deep North 还与美国运输安全管理局合作，在底特律都会韦恩县机场测试生物识别技术，包括自检门户，该管理局去年 3 月为其提供了资助。该公司获得了近 200,000 美元的资金，用于提供乘客吞吐量、社交距离合规性、代理互动和瓶颈区域等指标，以及无人看管行李、错误方向移动或占用限制区域的报告。

“我们很荣幸能够应用我们的创新来帮助 TSA 实现其改善整个机场乘客体验和安全的愿景，”萨尼尔在一份声明中说。“我们致力于为美国国土安全部和其他政府实体提供最好的人工智能技术，通过持续的投资和创新来建设一个更安全、更美好的家园。”

Deep North 在接受瑞典出版物 Breakit 采访时承认，它为一些客户提供面部识别服务。在其网站上，这家初创公司吹捧其技术能够根据个人的人口统计数据(如性别)个性化营销材料。但 Deep North 坚持认为其内部保护措施阻止它确定通过摄像机镜头捕获的任何人的身份。

“我们没有能力将元数据链接到任何一个人。此外，Deep North 不会捕获个人身份信息 (PII)，其开发目的是通过尽可能高的匿名化标准来管理和维护每个人的完整性，”Sanil 在 2020 年 3 月告诉 TechCrunch。“Deep North 不会保留任何无论如何 PII，并且只存储产生诸如条目数量、退出数量等指标的派生元数据。Deep North 努力遵守所有现有的隐私政策，包括 GDPR 和加州消费者隐私法案。”

迄今为止，拥有 47 名员工的 Deep North 已筹集了 4230 万美元的风险投资。