Goodfire 研究员称神经网络可被读懂，引发 AI 圈激辩
Goodfire 研究员 Nick Cammarata 发布 26,000 字博文，称 LLM 的内部机制可能远比此前认为的更容易理解，因而更易监控和控制。他以 Inception v1 中同时响应猫和汽车的神经元为例，认为两者共享 V 形特征，并计划很快公布针对现代 LLM 的技术结果。
Goodfire 研究员 Nick Cammarata 发布 26,000 字博文，称 LLM 的内部机制可能远比此前认为的更容易理解，因而更易监控和控制。他以 Inception v1 中同时响应猫和汽车的神经元为例，认为两者共享 V 形特征，并计划很快公布针对现代 LLM 的技术结果。