---
license: cc-by-nc-4.0
task_categories:
- visual-question-answering
- image-to-text
language:
- en
- zh
tags:
- benchmark
- visual-reasoning
- multimodal
- structural-mechanics
- image-to-json
- visual-question-answering
- stem
size_categories:
- n<1K
---

# StructuralEval: 结构力学大模型视觉推理评测基准

**StructuralEval** 是一个专注于**结构力学**领域的垂直大模型评测基准。本项目旨在评估多模态大语言模型（LMMs）在专业工程场景下的**视觉感知**、**空间推理**以及**结构建模**能力。

与传统的数学或通用视觉评测不同，本基准并不要求 AI 直接输出计算结果，而是要求 AI 扮演“建模工程师”的角色，将结构图片转化为计算机可识别的标准结构定义（JSON）。

## 核心理念

**"AI 负责建模，引擎负责计算"**

1.  **视觉转译 (Visual-to-Schema)**: AI 模型输入一张包含梁 (Beam)、刚架 (Frame) 或 桁架 (Truss) 的图片，识别其中的节点坐标、构件连接关系、支座类型（铰接、固接等）以及荷载信息。
2.  **物理验证 (Physics-Based Verification)**: AI 输出的 JSON 模型会被送入内置的 **WASM 物理求解器 (FrameCalc)** 进行有限元分析。
3.  **结果对齐**: 系统通过比较 AI 模型的物理响应（支座反力、最大弯矩）与真值（Ground Truth）来判定 AI 是否真正“读懂”了结构，而非简单的文本匹配。

## 可视化与调试

本项目的 JSON 定义格式与 [FrameCalc 在线结构分析工具](https://framecalc.aeutlook.com/) 完全兼容。

*   **可视化方法**: 您可以将 `data/raw_models/` 中的任何 JSON 文件内容复制并导入到上述网站中，进行图形化查看和结果校核。
*   **经典题目**: 
    *   `frame_010.json`: 该题目源自 **天津大学 2021 年结构力学考研真题**，具有极高的专业难度，挑战 AI 对复杂多跨静定/超静定结构的理解。

## 项目特点

*   **基于真实物理引擎**: 集成 WebAssembly (WASM) 编译的高性能结构求解器，确保评测结果的物理严谨性。
*   **多维度难度分级**: 数据集包含从简单的简支梁到复杂的超静定刚架，难度分为 1-5 级。
    *   **Level 1-2**: 基础梁结构，考察基本的构件与支座识别。
    *   **Level 3**: 简单桁架与刚架，考察节点连接性与多构件推理。
    *   **Level 4-5**: 复杂多跨刚架与大型桁架，考察对复杂拓扑和混合荷载的全局理解。
*   **容错性解析**: 内置鲁棒的 JSON 解析机制，专注于模型内容的准确性，而非格式的微小瑕疵。

## 目录结构

```text
structural-eval-benchmark/
├── bin/                 # 物理求解器核心 (framecalc.wasm)
├── data/
│   ├── images/          # 题目图片 (png/jpg)
│   ├── ground_truth_meta/ # 包含标准答案与难度分级的元数据
│   └── raw_models/      # 原始建模文件 (用于生成 GT)
├── src/                 # 核心源码 (加载器、评测逻辑、Prompt)
├── tools/               # 辅助工具 (生成真值、可视化等)
├── run_eval.py          # 评测主程序
└── requirements.txt     # 依赖清单
```

## 快速开始

### 1. 环境准备

确保安装 Python 3.8+，并安装项目依赖：

```bash
pip install -r requirements.txt
```

*(注：主要依赖包括 `openai`, `tqdm`, `wasmtime` 等)*

### 2. 运行评测

使用 `run_eval.py` 启动评测。您需要提供兼容 OpenAI 接口的模型 API Key。

```bash
# 标准评测模式
python run_eval.py --model "gpt-4o" --api-key "sk-..." 

# 任务过滤 (按 ID 关键字筛选，例如只评测“beam”类题目)
python run_eval.py --model "gemini-3-pro-preview" --api-base https://generativelanguage.googleapis.com/v1beta/openai/ --filter "beam"

# 指定 API Base URL ，允许模型答错后重试3次
python run_eval.py --model "qwen-vl-plus-2025-01-25" --api-base "https://dashscope.aliyuncs.com/compatible-mode/v1" --api-key "sk-..." --max-retries 3
```

### 3. 调试模式 (Debug)

如果您想测试环境或验证 Ground Truth 数据的正确性（不调用 AI）：

```bash
python run_eval.py --debug
```

## 扩展数据集

如果您希望添加新的测试题目，请遵循以下步骤，系统会自动计算难度并生成真值：

1.  **准备数据**:
    *   将结构建模 JSON 放入 `data/raw_models/`。
    *   将对应的图片放入 `data/images/`（支持 .png 或 .jpg）。
2.  **生成真值**:
    运行以下命令，工具会自动调用求解器计算物理真值，并根据构件数量和特征自动打分（Difficulty 1-5）。
    ```bash
    python tools/generate_gt.py
    ```
3.  **开始评测**: 新题目将自动包含在下一次评测中。

## 评分与诊断机制 (Scoring & Diagnosis)

为了更细致地评估模型在结构分析中的思维盲区，本基准采用了一套**分级诊断评分系统**。当 AI 的答案不正确时，系统并不会直接判定为 0 分，而是通过一系列“控制变量”实验来诊断错误原因，并给予部分分数。

### 1. 诊断流程 (Step-by-Step Diagnosis)

当 AI 生成的结构无法通过全量验证时，评测脚本会自动按以下顺序进行排查：

1.  **几何/拓扑检查 (Geometry Check)**:
    *   将 AI 模型与真值模型的材质统一、连接方式全部改为刚接、移除原始载荷并施加统一标准载荷，同时暂时将所有支座改为固定端。
    *   **判定**: 如果此时反力一致，说明**节点位置和杆件连接关系**是正确的。
    *   **失败后果**: 得分 **0.0** (Structure Wrong)。

2.  **边界条件检查 (Support Check)**:
    *   在通过几何检查的基础上，恢复原始的支座定义（保留统一刚接和标准载荷）。
    *   **判定**: 如果此时反力一致，说明**支座类型和位置**是正确的。
    *   **失败后果**: 得分 **0.25** (Supports Wrong)。

3.  **连接方式检查 (Connection Check)**:
    *   在通过上述检查的基础上，恢复原始的构件连接定义（如铰接/刚接），但仍使用标准载荷。
    *   **判定**: 如果此时反力不一致，说明**构件的 Release (铰接) 设置**有误。
    *   **失败后果**: 得分 **0.50** (Connections Wrong)。

4.  **载荷检查 (Load Check)**:
    *   如果上述步骤全对，但原始模型的全量计算结果不对，则唯一剩下的变量是**原题载荷**。
    *   **判定**: 结构完全正确，仅载荷参数错误。
    *   **得分**: **0.75** (Loads Wrong)。

5.  **完全正确 (Perfect)**:
    *   所有物理响应与真值完全匹配。
    *   **得分**: **1.00**。

### 2. 最终得分计算 (Weighted Accuracy)

为了体现题目难度的差异，最终榜单采用**加权准确率**计算：

$$
\text{单题得分} = \text{题目难度 (1-5)} \times \text{诊断系数 (0.0 - 1.0)}
$$

$$
\text{加权准确率 (Weighted Accuracy)} = \frac{\sum \text{所有单题得分}}{\sum \text{所有题目的总难度分}} \times 100\%
$$

例如：
*   一道难度为 **3** 的刚架题，模型结构做对了但载荷写错（系数 0.75），得分为 $3 \times 0.75 = 2.25$。
*   一道难度为 **1** 的梁题，模型全对（系数 1.0），得分为 $1 \times 1.0 = 1.0$。
*   总得分 3.25，满分 4.0，加权准确率为 81.25%。

## 📊 评测榜单 (Leaderboard)

| 模型 (Model) | 加权准确率 (Weighted Acc) | 平均成功率 (Avg Success Ratio) | 备注 (Notes) |
| :--- | :---: | :---: | :--- |
| **Gemini-3-Pro-Preview** | **17.65%** | - | Retries: 3 |
| **GLM-4.5V** | 16.18% | 21.25% | Retries: 3 |
| **Qwen3-VL-32B-Instruct** | 13.24% | 23.75% | Retries: 3 |

*注：数据更新于 2026-01-31，基于 v1.0 数据集 (20题).*

## 许可证

本项目采用 **CC BY-NC 4.0 (署名-非商业性使用)** 许可协议：
*   **禁止商用**: 未经许可，不得将本项目及其包含的数据集用于商业目的。
*   **标注来源**: 免费使用的前提是必须在您的项目说明、论文或作品中明确标注本项目来源（StructuralEval 基准）。