大模型运行环境对结果的影响

根据DeepSeek技术文件的描述,大模型很少仅在固定的Harness(脚手架)中运行。由于不同脚手架在系统提示词、工具定义、上下文管理以及交互协议方面存在差异,模型运行出的结果也会随之产生不同。

官方测试结果分析

DeepSeek官方测试数据显示,其自家框架中的DSH Minimal模式在两项测试中的表现均高于Standard模式和PTC模式。该结果被认为具有一定的反常识性,因为功能更多、流程更复杂的模式并未带来更高的成功率。

同时,测试结果显示,当DeepSeek-V4.1-Flash接入Claude Code或Codex时,其开箱即用的水平接近峰值。

多平台接入实测对比

在针对复刻机必替Astra网页风格的实测中,DeepSeek-V4.1-Flash被分别接入到Pi Agent、Claude Code以及DeepSeek Harness桌面端进行尝试:

  • Pi Agent:正文部分表现尚可,但首屏效果不理想,粒子效果偏离了目标风格和布局。
  • DeepSeek Harness桌面端:在DSH标准模式下,首屏和侧边栏符合预期,效果被认为优于Pi Agent,但正文部分相对较弱。
  • Claude Code:发挥被认为超出预期,但在正文布局方面不够理想。

此外,相关实测还涉及了由博主Simon Willison提出的“编写一个实现太空入侵者的HTML和JavaScript页面”的测试题目,用于对比Pi Agent、Claude Code等不同环境下的表现。