一款旨在支持纽约居民创办或维持企业的人工智能聊天机器人因提供不准确的建议而受到批评,可能导致非法活动。该聊天机器人于 2024 年 3 月 29 日推出,旨在简化业务运营,但却成为错误信息的来源。

许多客户报告说收到了可疑的指示,如果遵循这些指示可能会导致法律问题。尽管该机器人的目的是使建议与现行法律法规保持一致,但它似乎正在引导企业家走向错误的方向。正在进行的调查旨在纠正机器人的编程,以防止虚假信息的进一步传播。鼓励企业主与商业顾问或法律专业人士交叉检查机器人提供的信息。

Markup 批评人工智能聊天机器人多次提供有关住房政策、商业规则和劳工权利的不正确或不完整的信息。聊天机器人喜欢提供过时或过于笼统的建议,这导致了对当地法律法规的误解。

一个主要问题是机器人对住房和房东责任的错误陈述。它还未能就驱逐程序提供正确的建议,并误解了租户筛选流程。由于这些不准确之处,该工具的价值正在下降。

人工智能聊天机器人的错误建议误导了企业家

此外,聊天机器人对保证金法的错误理解导致了房东财务义务的混乱。

纽约市法律服务中心的全市住房总监罗莎琳德·布莱克 (Rosalind Black) 谴责该机器人错误地告知房东锁定租户是合法的,而且租金价格没有上限。布莱克指出,这些错误可能会加剧纽约市的住房危机,并使弱势群体得不到保护。她认为,对法律的充分了解对于确保公平实践至关重要。布莱克敦促对聊天机器人进行严格的事实核查和不断修订,以与现行的住房法律法规保持同步。

人工智能聊天机器人通过提供有关消费者和劳工保护政策的虚假信息而引发了进一步的问题。它建议企业可以拒绝接受现金,雇主有权扣留员工小费,并错误地指出没有通知员工换班的规定。该机器人还传达了有关公共交通、危险废物处理、企业安全设备要求、公共示威许可证要求以及租赁物业维护要求的错误信息。

由于这些重大错误,一些人建议如果机器人继续转发不正确的信息,请停止该机器人的操作。这凸显了部署影响公众的人工智能系统的准确性的必要性。虚假信息的传播可能导致不当决策和潜在危害,这凸显了负责任地使用人工智能的迫切要求。

(这是一个未经编辑的、自动生成的故事,来自联合新闻提要。 八方新聞 工作人员可能没有更改或编辑内容文本。)