
除了调整格式和绘图纸外,整个内容都没有参与。
大型模型的开发每天都在变化。在今年年初,该行业仍然记得AI所产生的学术废物正在淹没纸图书馆。在今年中期,高级领导者可以认可AI生成的论文。
5月29日,海外创业公司宣布其角色Zochi被ACL主要会议大会所接受,该会议成为第一个联合通过对科学会议的A*水平进行同行评审的人工智能,并宣布开幕Zochi的Beta测试。
该版本的成本是ACL是世界上自然语言处理领域的领先会议的数量。其主要会议的平均接收率通常不到20%,而论文则是创新的开创性。据报道,Zochi的角色获得了4分的最终评论得分,排名所有提交文件的最高占8.2%。
探索是一个相对陌生的开始。从当前官方网站和博客的信息审查来看,该公司是在2025年初新成立的,并被定位为研究智能科学的实验室。这两个联合冒险是连续企业家罗恩·阿雷尔(Ron Arel)和前中国研究员安迪·周(Andy Zhou)。两者都毕业于Urbana-Champaign(UIUC)的伊利诺伊大学。
在建立了该研究之后,该团队于3月推出了特工Zochi,称其为AI科学家,并宣布其研究结果已被ICLR 2025研讨会接受。但是,接受纳卡拉斯研讨会论文的速度在60%至70%之间,这比主要会议少。该官员认为,这次会议上的进一步崩溃已被标记为AI已经达到了科学研究医生的水平,通常需要数年的人类医生才能发布此类会议。
具体来说,让我们看一下在AI科学家Zochi“写”的论文中。该主题是关于大型模型安全性的,称为“ Tempest:使用树木搜索的大型语言模型自动多转弯越狱”,实际上被翻译为“ Tempest:基于树搜索的大型语言模型”的自动多轮越狱”。简而言之,Zochi使用“树搜索”技术来探索许多路径,并逐渐破坏大型模型的安全线。
Tempest提出的NG研究的轮廓可以通过大量对话,发现安全性以及通过累积小额优惠来逐渐失去模型的安全线路。例如,如果模型直接响应敏感信息“制造炸弹”,则该模型将根据安全机制直接拒绝它,但是通过许多循环指导,该模型可以回答正确的信息。
评论的结果表明,暴风雨在旧的GP中具有100%的成功率T-3.5涡轮模型和GPT-4中的97%。这项研究主要表明,显示了许多对话攻击的弱点,这可能提供了设计更好的AI安全防御能力的参考。
值得一提的是,论文AY签署了两个联合作品,但是官方博客说,除了调整论文的格式和绘制外,内容不参与整个过程。 “我们对这项工作负责,但是主要的智力贡献是由AI系统完成的。”
据官方报道,只有人们才能进入研究领域,Zochi可能会团结起来完成整个后续过程。 Zochi首先收集并审查了数千本研究论文,以确定特定领域的潜在研究方向。它的搜索系统可以识别对文献的基本贡献,技术,限制和新兴模型,确定论文之间的重要性,并提出创新的解决方案。来自s假设的uggestion在实验完成时,Hanggang就像是一位真正的科学家。
人工智能科学家不是一个孤立的案例。除了实践外,去年由变形金刚作者Llion Jones创立的Bakana AI还推出了AI科学研究系统“ AI科学家”。该论文也被ICLR 2025研讨会接受,得分为6/7/6。
科学的AI(AI4Science)一直是AI行业中最切实可行的地方之一。人工智能可以促进科学的发展,并提高科学家的效率,准确性和创造力。但是,新事物的出现也伴随着关于正义和统治适应的争议。
此前,当肠道杂质者于3月推出Zochi并宣布该论文已被会议接受时,许多学者对此批评,据称这是对同行考试过程的滥用。在提交论文之前,团队不知道R高级政党是形成的论文,他们没有获得同行审稿人的许可。
在此博客的结尾,该官员引用了AI的学术问题,该问题认为AI驱动的研究给科学责任和重复带来了挑战。但是他们认为,尽管Zochi独立运作,但人类研究人员仍在设定并负责验证方法,解释结果和确保道德标准。对于本文,该人的人员进行了大量的内部检查,并在提交之前仔细证明了所有结果和代码。
“我们鼓励AI系统的清单承认,而不是将其成为作者列为作者。虽然AI驱动的研究提出了有关识别,透明度和责任的重要问题,但我们认为应由物质而不是资源来判断智力贡献。” Intolosy正式表示,他们的主要重点是通过AI工具来帮助人类研究人员。
金融的官方aCCOUNT
24小时广播滚动滚动最新的财务和视频信息,并扫描QR码以供更多粉丝遵循(Sinafinance)