AI产品评测

Dataify AI Web API 1.0体验:搜索、正文提取与站点页面发现

作者:CSDN0 次浏览来源:CSDN
Dataify AI Web API 1.0体验:搜索、正文提取与站点页面发现

CSDN作者演示Search、Extract和Map三类接口,展示网页检索、Markdown正文及链接清单。输出仍需按任务筛选,示例不能保证所有网站或动态页面均被完整提取。

编辑更正(2026年11月19日):将RAG术语修正为检索增强生成;示例仅为原文演示,未在本站运行。

当 AI Agent 开始替人读网页、做研究、跑自动化流程时,行业真正的瓶颈已经从“模型能力本身”,变成了“它能不能在正确的时间拿到正确、干净、足量的信息”。

众所周知,Deep Research、浏览器 Agent、各类自动化工作流,本质上都在做同一件事——替人去读网页。可今天的网页是为人眼设计的:导航、广告、弹窗、脚本、动态渲染……人一眼就能略过,模型却要为每一个无效 Token 买单。更棘手的是时效——模型的记忆停在过去,而 Agent 要回答的是此刻。

所以对于 Agent 来说:一是要筛出干净内容,二是要找到最新信息。

于是,一个新的基础设施层正在成形:面向 AI 的 Web 接口。

Dataify 这次发布的 AI Web API 1.0,切入的正是这一层。

接下来进入实测环节。

我们对 AI Web API 的三项能力进行了实测

先展示大家最关心的指标,然后再测:

文章配图

三个接口实测下来,我最直观的感受是:搜索结果带着标题、摘要和来源,正文能按需转成 Markdown,站点页面也能先整理成清单。对使用者来说,拿到结果后继续筛选、阅读和处理,路径比较清楚。

功能1 Search API

Search 通过 unique_id=search_web 指定工具,用 query 传入关键词,source 指定搜索类型(示例为 web),再由 max_results、country、language 控制返回数量与地区语言。

输入 · Python

import os

import requests

url = "https://aiwebapi.dataify.com/search"

headers = {

"Authorization": f"Bearer {os.environ['DATAIFY_API_TOKEN']}",

"Content-Type": "application/x-www-form-urlencoded",

}

data = [

("unique_id", "search_web"),

("query", "什么是AI?"),

("source", "web"),

("max_results", "3"),

("country", "us"),

("language", "en"),

("extract_content", "false"),

]

response = requests.post(url, headers=headers, data=data)

print(response.status_code)

print(response.text)

响应示例 · JSON

[

{

"position":1,

"title":"什么是人工智能(AI)?",

"url":"https://cloud.google.com/learn/what-is-artificial-intelligence?hl=zh-CN",

"snippet":"人工智能(AI) 是一组技术,使计算机能够学习、推理并执行各种高级任务……"

},

{

"position":2,

"title":"1-1. AI 是什麼?|你的第一堂AI 課",

"url":"https://www.youtube.com/watch?v=JKLdpfdhRnc",

"snippet":"歡迎來到「全民AI 通識課」!……用簡單的方式定義AI,其實就是AI系統了!",

"date":"2 years ago"

},

{

"position":3,

"title":"什么是人工智能(AI)?",

"url":"https://aws.amazon.com/cn/what-is/artificial-intelligence/",

"snippet":"人工智能(AI)是一项变革性技术,它使机器能够和人类一样解决问题……"

}

]

点击此处免费试用(在新窗口打开)

直接返回经去重、排序的数组,每条包含 title、url、snippet,部分结果还会带 date。

把 extract_content 设为 true 时,还可以在搜索结果中一并取回正文,使用者不必再分别拼接“搜索 API+网页采集+正文解析”三套流程。搜索不再只是返回一串 URL,而可以直接成为内容处理的起点。

文章配图

图 1|Search 控制台返回结果(JSON 视图)

功能2 Extract API

找到页面之后,下一个问题是:网页到底该怎么读?

如果把完整 HTML 直接塞给模型,导航栏、按钮、脚本和页脚也会一起进入上下文。信息不少,真正有用的内容却可能只有一部分。

Extract 的思路很直接:传入 URL,按任务选择需要的内容形式。

目前支持提取 Markdown、原始 HTML、清洗后的 HTML 和页面链接;开启 only_main_content 后,可以进一步聚焦正文区域。

以抓取dataify.com为例:

输入 · Python

import os

import requests

url = "https://aiwebapi.dataify.com/extract"

headers = {

"Authorization": f"Bearer {os.environ['DATAIFY_API_TOKEN']}",

"Content-Type": "application/x-www-form-urlencoded",

}

data = [

("unique_id", "extract"),

("url", "https://dataify.com/"),

("formats", "markdown"),

("formats", "raw_html"),

("formats", "clean_html"),

("formats", "links"),

("advanced_mode", "true"),

("country", "US"),

("only_main_content", "true"),

("timeout_ms", "60000"),

("wait_for_ms", "0"),

("max_age_ms", "172800000"),

]

response = requests.post(url, headers=headers, data=data)

print(response.status_code)

print(response.text)

响应示例 · Markdown(节选)

# 让 AI 看见此刻世界

Dataify 将最新的网页清洗为结构化数据,让智能体的回答有据可依

[开始免费试用](https://dashboard.dataify.com/web-api?tool=search)

在

Agent 中使用![Cursor](...)![Claude](...)![Codex](...)

SearchExtractMap

示例:

AI 领域的最新新闻 AI 开发工具 AI 行业动态

正在请求

…

MarkdownJSON

## AI Web API . Search

Search根据关键词检索相关网页,为 AI Agent 提供实时数据

[立即体验](https://dashboard.dataify.com/web-api?tool=search)

…(后略:完整返回还包含该页面的其他正文与链接)

点击此处免费试用(在新窗口打开)

文章配图

图 2|Extract 控制台返回结果(Markdown 视图)

从返回看,页面内容已经转成 Markdown,省去了自行解析 HTML 的步骤。示例中仍保留了“正在请求…”等界面文字,使用时可以继续按任务筛选。

这些内容可以交给模型总结,或在应用侧继续切片、向量化和入库;返回的页面链接也能作为后续采集入口。

功能3 Map API

Extract 提取单页内容,Map 则帮助发现站点中的页面。

输入一个起始 URL,Map 可以发现站点内的页面地址、标题和描述。通过 domain_filter、limit 和 sitemap 等参数,还能控制发现范围、数量及站点地图的使用方式。

它适合处理另一类问题:“这个文档站里到底有哪些页面”。

比如搭建产品文档知识库时,可以先用 Map 找到页面入口,再逐页调用 Extract 提取正文;做竞品研究时,也可以先盘点官网内容,再选择需要深入分析的页面。

以抓取dataify.com为例:

输入 · Python

import os

import requests

url = "https://aiwebapi.dataify.com/map"

headers = {

"Authorization": f"Bearer {os.environ['DATAIFY_API_TOKEN']}",

"Content-Type": "application/x-www-form-urlencoded",

}

data = [

("unique_id", "map"),

("url", "https://dataify.com"),

("country", "US"),

("domain_filter", "all"),

("limit", "20"),

("sitemap", "include"),

]

response = requests.post(url, headers=headers, data=data)

print(response.status_code)

print(response.text)

响应示例 · Links 视图

https://dataify.com/

https://www.dataify.com/

https://www.dataify.com/about

https://www.dataify.com/careers

https://www.dataify.com/products/dataset/store/dataset-shein

https://www.dataify.com/products/dataset/store/dataset-linkedin_company_v2

https://www.dataify.com/products/dataset/store/dataset-linkedin_prospect_v2

https://www.dataify.com/products/dataset/store/dataset-walmart_products

https://www.dataify.com/products/dataset/store/dataset-instagram_video_info

https://www.dataify.com/products/dataset/store/dataset-youtube_videos

https://www.dataify.com/products/dataset/store/dataset-tiktok_post_v2

https://www.dataify.com/products/dataset/store/dataset-netflix

https://www.dataify.com/products/dataset/store/dataset-tiktok_shop

https://www.dataify.com/products/dataset/store/dataset-tiktok_goods

https://www.dataify.com/products/dataset/store/dataset-vimeo_user_result

点击此处免费试用(在新窗口打开)

控制台的 Links 视图把结果按行展示;API 原始响应为 JSON 数组 [{"url": "..."}],返回上限由 limit 控制。

文章配图

图 3|Map 控制台返回结果(Links 视图)

到这里,三项能力的分工就清楚了:

Search 检索相关网页,Extract 提取页面内容,Map 发现站点页面。

这两类使用者能用 AI Web API 做什么?

大模型厂商

RL 强化学习阶段

在需要联网检索的强化学习任务中,用 Search 查找相关网页,再按需提取正文,为模型训练信息检索、证据使用与复杂任务求解能力提供数据支持。

AI Agent 厂商

RAG 检索增强生成阶段

按需提取干净正文,为 Agent 补充更新、更集中的参考内容,提升信息质量与时效性。

具体到运行过程,使用者提出问题后,Agent 先判断是否需要补充实时信息;需要时调用 Search 检索相关网页,并按需调用 Extract 提取正文,将经去重、重排与清洗后的数据用于Agent 后续推理与回答。

Dataify AI Web API 1.0 的真正价值是什么?

Dataify AI Web API 为 AI Agent 和 AI 应用提供实时、结构化、可接入的公开网页数据能力,并通过 MCP/Skills 与多模态数据服务,帮助团队更快把外部数据转化为可用数据资产。

当然,1.0 只是这条路的起点。期待后续版本在结构化输出、批量调度和更多数据源上继续演进,把“让 AI 看见此刻世界”这件事做深做透——AI 迟早都需要这样一条实时数据链路,祝 Dataify 把它做扎实、走得更远。

如果你正在做 Agent、行业研究工具或 RAG 知识库,你会如何利用 AI Web API?

如果你正在为大模型训练或 AI Agent 应用寻找干净、实时的网页数据,想进一步沟通测试需求与接入方案,可以联系 Dataify 团队:

文章配图

Dataify 客户发展总监:Senlina

微信号:lisiyuDZML

文章来自于"CSDN",作者 "CSDN"。

相关主题

读完之后

加入 AINRK 交流群

了解加入交流群的方式,与更多 AI 从业者交流。

查看交流群说明(在新窗口打开)