Skip to main content

OKHK 👀

Thinking ❤️
  1. 可以本地运行的 MNN,内置多种大模型,可以部署 DeepSeek

    https://github.com/alibaba/MNN

    MNN 是阿里巴巴开发的一个高效轻量级的深度学习框架,主要用于深度学习模型的推理和训练。它在移动设备和嵌入式设备上表现出卓越的性能,已经在包括淘宝、天猫、优酷、钉钉、闲鱼等超过 30 个阿里巴巴应用中集成,涵盖了直播、短视频、搜索推荐、图像搜索、互动营销、股权分发和安全风控等超过 70 种场景。

    MNN 支持 TensorFlow、Caffe、ONNX、Torch 等多种模型格式,以及 CNN、RNN、GAN、Transformer 等常见神经网络。它还支持多输入、多输出、各种维度格式和动态输入等复杂模型,并提供了广泛的 OP 支持。

    MNN 具有轻量级、通用性、高性能和易用性等特点:

    ● 轻量级: 优化了设备部署,无需依赖其他库,易于部署到移动设备和嵌入式设备。iOS 静态库大小约 12MB,Android 核心 so 大小约 800KB。
    ● 通用性: 支持多种模型格式和神经网络类型,以及各种复杂模型。
    ● 高性能: 核心计算采用大量优化的汇编代码充分利用 ARM/x64 CPU;使用 Metal/OpenCL/Vulkan 支持移动设备 GPU 推理;支持 CUDA 和 TensorCore 用于 NVIDIA GPU;拥有高效且稳定的卷积和转置卷积算法,广泛使用 Winograd 卷积算法。
    ● 易用性: 支持 NumPy 式的数值计算;支持轻量级图像处理模块 OpenCV;支持在 PC/移动端构建和训练模型;提供 Python API 帮助机器学习工程师无需深入 C++ 代码即可使用 MNN 进行推理、训练和图像处理。

    MNN 提供了模型转换器、压缩器、通用计算支持、轻量级 OpenCV 库、以及模型训练工具等一系列工具,进一步简化了用户的使用流程。 MNN 的文档可在 Read the docs 网站上找到,同时 workbench 工具提供预训练模型、可视化工具和一键部署功能。 它还在阿里巴巴的 Walle 系统中作为基本计算模块发挥作用,具有业界领先的性能。



    #GitHub #AI #Tool GitHub - alibaba/MNN: MNN: A blazing-fast, lightweight inference engine battle-tested by Alibaba, powering high-performance on…
  2. 如何禁止 MacBook 打开或连接电源后自动开机

    https://support.apple.com/en-us/120622


    # 如果不需要打开盖子或连接电源自己开机
    sudo nvram BootPreference=%00
    
    # 如果不需要打开盖子自己开机
    sudo nvram BootPreference=%01
    
    # 如果不需要连接电源时自己开机
    sudo nvram BootPreference=%02
    
    # 恢复打开盖子或连接电源时自启动
    sudo nvram -d BootPreference

    #Apple #macOS #Script
  3. 一觉醒来发生了什么 02月04日

    2025年2月4日
    🌍资讯快读
    1、截至去年底个人养老金基金销售机构达52家
    https://www.jiemian.com/article/12306375.html
    2、韩国三星电子会长李在镕不当合并案二审维持无罪原判
    https://www.jiemian.com/article/12306670.html
    3、路易威登成为F1官方合作伙伴
    https://www.jiemian.com/article/12306777.html
    4、特朗普称计划很快对欧盟产品征收关税
    https://www.jiemian.com/article/12306183.html

    👬即刻镇小报
    1、大模型应用开发,最值得关注的信息源及必读文章
    https://m.okjike.com/originalPosts/67a0c28f2d8ef3d9a05a16f9
    2、Deepseek R1 API可用平台
    https://m.okjike.com/originalPosts/679ee8fb54198f7f168aaa37
    3、婚姻稳固的夫妻共同拥有着深刻的意义感
    https://m.okjike.com/originalPosts/679ebcb354198f7f1687be75
    4、和他人分享,跟他人反馈是一个很棒的循环
    https://m.okjike.com/originalPosts/679e4d0fe5b297ca65b46e96

    今日即刻镇小报内容来自 @Random_thoughts @不务正业小胡同学 @独托邦 @山中野橘子 ,感谢以上即友的创作与分享。
  4. #Bing_Wallpaper

    “雄伟的金色桥梁由巨大的石手高高托起,优雅地矗立在越南巴拿山郁郁葱葱的绿意之间,俯瞰令人赞叹的地平线。一片祥和、梦幻般的景象,沐浴在日落时分柔和的金色光芒中,戏剧性的云彩将天空渲染成琥珀、薰衣草和深灰色的交织色调。石手的手工雕刻纹理与金色扶手光滑现代的设计形成鲜明对比。蜿蜒的小径邀请人们在云端之上悠然漫步,周围是遥远城市景观、森林山峦和薄雾天际的全景。画面捕捉了极其真实的细节,散发出一种宏伟与宁静并存的氛围,唤起神秘而超现实的感受。”
  5. 中国旅游体验糟糕的原因到底是什么?假期在国内还是去国外?背后的病症可能更复杂——针对国内旅游业发展的系统分析
    @小柳Salix:
    出行 - 特别说明:视频已进行优化补档。针对本人视频内的观点,如有不足,欢迎大家在评论区友好讨论,也可直接私信本人,谢谢!

    春节假期将至,很多人可能正在计划着旅行和着手做攻略了。这可能是一个很有争议的话题:国内和国外的旅行体验往往差距很大。在国内诸如新疆,四川,云南,西藏,内蒙古以及广大的东部沿海片区其实都拥有非常优质的景观资源和多样的地理环境,但往往我们实地的体验却不理想。类似于“旅游景点人很多”、“人素质不高”、“中国人旅游只知道打卡”、“旅游的攀比心和炫耀心理”等这些批评游客的论点往往只是现象描述,并非旅游

    🔝> @小柳Salix:
    视频已重新优化上传。希望大家继续友好讨论,虽然从事过一些相关工作,但毕竟本人还是社会阅历尚浅,对旅游业肯定还是未知全貌的,如果觉得片中本人的观点有失偏颇,也欢迎指正!
    Media is too big
    VIEW IN TELEGRAM
  6. lume - macOS 虚拟机管理工具

    https://github.com/trycua/lume

    lume 用于在 Apple Silicon (m 系列芯片组)的 Mac 设备上原生创建、运行和管理 macOS 和 Linux 虚拟机 (VM)。它利用 Apple 的 Virtualization.Framework,提供接近原生性能的虚拟化体验。

    ● 轻松运行预建 macOS 镜像: 使用单一命令即可运行预建的 macOS 镜像,例如 lume run macos-sequoia-vanilla:latest
    ● 丰富的命令: 提供了创建、运行、列出、获取信息、修改、停止、删除、拉取镜像、克隆和管理 VM 的多种命令。
    可配置 VM 参数,例如 CPU 核心数、内存大小、磁盘大小、分辨率等。
    提供了与 VM 共享目录的功能。
    支持从容器注册中心拉取 macOS 镜像。
    ● 本地 API : 提供本地 HTTP API 服务(http://localhost:3000/lume),方便自动化管理虚拟机。
    ● 支持多种操作系统: 支持 macOS 和 Linux 系统。
    ● 易于安装: 使用 brew 命令即可轻松安装,也可手动下载安装包。

    ----------------------

    ● 轻量级: 提供了轻量级的解决方案。
    ● 原生性能: 利用 Apple 的 Virtualization.Framework,在 Apple Silicon 上提供接近原生的性能。

    ----------------------

    命令行操作体验类似 docker ollama
    可惜当前镜像太少,Debian 镜像都还没有

    #GitHub #Tool #macOS #Apple GitHub - trycua/cua: Open-source infrastructure for Computer-Use Agents. Sandboxes, SDKs, and benchmarks to train and evaluate…
  7. llms.txt 文件规范

    https://llmstxt.org

    大语言模型 (LLM) 越来越多地依赖网站信息,但面临一个关键限制:上下文窗口太小,无法处理大多数网站的全部内容。将复杂的 HTML 页面(包含导航、广告和 JavaScript)转换为 LLM 友好的纯文本既困难又缺乏精确性。

    为了帮助 LLM 更有效地获取网站信息,本文提出了一种 llms.txt 文件规范,该文件包含特定格式的 Markdown 信息,供 LLM 轻松读取。

    llms.txt 文件包含项目/网站名称、简要摘要、详细描述以及指向更详细文档的链接。它采用 Markdown 格式,方便人类和 LLM 阅读,同时允许使用固定处理方法(例如,解析器和正则表达式)。此外,建议网站在与 LLM 有关的信息页面上提供对应的 .md 文件,以便 LLM 更方便地获取信息。

    llms.txt 文件的结构清晰,包含以下部分:

    1. 标题 (H1): 项目或网站名称(必填)
    2. 摘要 (blockquote): 项目简要总结,包含理解文件其他部分的关键信息
    3. 详细描述 (Markdown): 包含项目详细描述和解释如何解读提供文件的更多说明,无需包含标题
    4. 文件列表 (H2 + Markdown 列表): 包含指向更详细信息的 URL,每个 URL 都有一个描述性标题,格式为 [标题](URL),之后可以跟详细说明或注释。可选的“Optional”部分用于包含可跳过的辅助信息。

    llms.txt 文件规范旨在与当前 web 标准兼容,可与站点地图和 robots.txt 文件协同工作。它提供 LLM 友好的页面概览,补充 robots.txt,并可引用站点上的结构化数据标记,帮助 LLM 理解上下文。

    llms.txt 文件主要用于在用户主动请求信息时(例如,在项目中包含编码库文档,或向聊天机器人寻求信息),而不是用于训练。该规范鼓励简洁明了的语言,准确的链接描述,避免模棱两可或不明确的术语。

    #AI #Doc #URL The /llms.txt file – llms-txt
  8. Ollama Deep Researcher

    一款本地化的网页研究助手,它使用 Ollama 托管的大语言模型(LLM)。用户输入研究主题,助手会生成网页搜索查询,通过 Tavily (默认) 获取搜索结果,然后总结结果、识别知识缺口,并生成新的搜索查询,迭代改进总结,直至达到用户设定的循环次数。最终,它会提供一份包含所有来源的 Markdown 格式总结报告。

    该项目使用 LangGraph 服务器,并支持 Tavily 或 Perplexity 作为网页搜索工具,用户可以根据需要在 .env 文件中配置 API 密钥。项目提供 macOS 和 Windows 安装、使用说明和视频教程,方便用户快速上手。 用户可以利用 LangGraph Studio 的 UI 界面配置研究参数,例如 LLM 的名称、搜索迭代次数等。 项目灵感来自于 IterDRAG,采用迭代式的方法,不断精进研究结果,直至获得满意的总结。 项目输出结果包含 Markdown 格式的总结报告以及所有使用的资源。

    https://github.com/langchain-ai/ollama-deep-researcher

    #AI #GitHub #Tool GitHub - langchain-ai/local-deep-researcher: Fully local web research and report writing assistant
OKHK