Skip to content

fix: 索引脚本改用线上 sitemap 做种子,修复抓不到正文 - #37

Merged
Paka-418 merged 1 commit into
mainfrom
fix/algolia-index-sitemap-seeds
Oct 30, 2026
Merged

Paka-418 merged 1 commit into
mainfrom
fix/algolia-index-sitemap-seeds

Conversation

@Paka-418

Copy link
Copy Markdown
Collaborator

问题

magicbox_doc 的 Algolia 索引 workflow 自 2026-10-28 起每次失败:

Skip failed page: HTTP 404 for https://developer.d-robotics.cc/magicbox_doc
Skip failed page: HTTP 404 for https://developer.d-robotics.cc/magicbox_doc/en/introduction
pages=1 queued=0
Built 0 DocSearch records
Failed: No records extracted; aborting without clearing index

根因

crawlSite() 的三个种子全部落空:

种子 实际结果
.../magicbox_doc(无尾斜杠) OSS 上 404(.../magicbox_doc/ 才 301 到 /magicbox_doc/magicbox)
.../magicbox_doc/en 200,但是没有正文的 baseUrl 提示页
.../magicbox_doc/en/introduction 404,该页面不存在

种子拿不到正文 → 0 条记录 → 脚本主动中止。站点本身是好的(/magicbox_doc/en/faq、/magicbox_doc/quickstart 等均 200)。

修复

抓取前先读线上 /sitemap.xml 与 /en/sitemap.xml(各 14 条)做种子,命中后仍按页面链接扩展;sitemap 不可用时回退到站点根两个种子。

验证

本地 ALGOLIA_ADMIN_API_KEY=dummy node scripts/algolia-index.mjs:

Sitemap .../sitemap.xml -> 14 URLs
Sitemap .../en/sitemap.xml -> 14 URLs
Collected 27 HTML pages
Built 283 DocSearch records

(随后在 settings 步骤用假 key 报 403,符合预期。)合入后由 Sync gh-pages to OSS 完成触发的 workflow_run 跑真实索引。

相关

同款旧脚本还存在于 rdk_x_doc / rdk_s_doc / case_doc / accessories_audio_kit_doc / accessories_bmi088_doc,本次只修 magicbox,其余另行评估。

🤖 Generated with Claude Code

抓取种子原来是站点根 /magicbox_doc、/en 和 /en/introduction:
- /magicbox_doc(无尾斜杠)在 OSS 上 404
- /en 是没有正文的 baseUrl 提示页
- /en/introduction 页面不存在

三个种子都拿不到内容,脚本以 "Built 0 DocSearch records" 退出,
magicbox_doc 的 Algolia 索引自 10-28 起一直失败。

改为先读 /sitemap.xml 与 /en/sitemap.xml(各 14 条),种子命中后再按
页面链接扩展;sitemap 不可用时回退到站点根。本地跑通:27 页 / 283 条记录。

Co-Authored-By: Claude Code <noreply@anthropic.com>
@Paka-418
Paka-418 merged commit 0ef1c8f into main Oct 30, 2026
1 check passed
@Paka-418
Paka-418 deleted the fix/algolia-index-sitemap-seeds branch October 30, 2026 10:10
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant