介绍 随着ChatGPT的横空出世,国内互联网大厂、创业公司纷纷加了AIGC赛道,不断推出各种大模型...【查看原文】
书接上文,我在 ollama 中部署 qwen1_5-14b-chat-q4_k_m.gguf 预量化模型,在非 Stream 模式下需要 89 秒才完成一轮问答,响应速度实在是太慢,后续想办法优化
AIGC
Kida的技术小屋 2024-05-13
忙里偷闲在本地部署了一套 stable-diffusion 来玩玩,虽然 Mac 还是使用 CPU 来生图,但是整体效果(生成时间、生成效果)还是能够接受的。
Stable Diffusion
kida_yuan 2024-02-06
转:NVIDIA 的朋友和我说他们内部一律都是 ubuntu,cuda 生产环境不建议用 debian、ubuntu 之外的任何系统,只会徒增烦恼。操作系统建议Ubuntu22,长期维护版本。这个是浪潮NF5568M4,超微7048同款安装显卡驱动这里点击附加驱动选择上面这个驱动后,点击应用更改驱动安装成功后,可以看到这watch nvidia-smi安装CUDA:https://developer.nvidia.com/cuda-downloads只需要执行Base Install命令如果已经通过图形安
AI大模型
门的耳朵 2024-03-24
本文介绍了使用ollama在本地部署大模型,通过本地部署的客户端与大模型交互,并且简单体验了RAG。最后简单介绍了在本地搭建chatgpt 3.5的代理,可以免密钥的方式访问openai的api。
ChatGPTOpenAI
小豪11 2024-04-19
玩转 AIGC:仅需三步,在 Mac 电脑部署本地大模型,打造私人 ChatGPT 你好,欢迎来到运维有术。 今天分享的内容是 玩转 AIGC「2024」 系列文档中的 仅需三步,在 Mac 电脑打造
AIGCChatGPT
运维有术 2024-05-02
在 JavaScript 开发中,我们总是追求更简洁、更高效的代码。本文将介绍十个简单却实用的技巧,可以帮助你写出更优雅、更易读、更易维护的 JavaScript 代码。
前端宝哥 2024-09-15
大模型时代的APP。李彦宏认为, AI 时代制作一个智能体就和在互联网时代制作网站一样简单。未来各行各业都会基于各自领域的具体场景,制作出几百万甚至更大量的智能体。
黑骑钻 2024-09-15
上一篇当中 我们讲了RepicatedReplacingMergeTree的下推原理,这一篇从Clickhouse的具体优化案例出发,谈一谈使用上的习惯 1.大表在左,小表在右,否则会造成右表加载数据
语落心生 2024-09-15
在TypeScript中,any 类型是一个非常强大的类型。它允许你将一个值当作在JavaScript中一样来处理,而不是在TypeScript中。这意味着它禁用了TypeScript的所有特性,包括
叶知秋水 2024-09-15
在 AI 领域,几乎每个人都在谈论大型语言模型,其英文全称为 Large Language Models,简写为 LLM。因为 LLM 中有Language一词,因此,大家默认这种技术和语言密切相关。
机器之心 2024-09-15
作为谷歌 DeepMind 机器学习团队的重量级人物,Nando de Freitas 曾共同领导开发出了 Imagen 2、Gato、Genie、Griffin、Lyria 等名噪一时的大模型产品。
How Do Your Code LLMs Perform? Empowering Code Instruction Tuning with High-Quality Data 你的代码大语言模型表现
叶子的技术碎碎念 2024-09-15
【哈希图详解】结合哈希表与链表的高效数据结构及优化实践 在计算机科学中,哈希图(HashMap with LinkedList)是一种结合了哈希表和链表的数据结构。这种数据结构的设计目的是为了既能提供
篱也不篱 2024-09-15
LLM中的强化学习:PPO、DPO、KTO等。 为什么要用强化学习训练、强化学习算法发展脉络、常见的强化学习算法:PPO、DPO、KTO等等
特里斯丹_专注前沿深度学习算法 2024-09-15
单点登录 SSO ( Single Sign-On ) 的效果是“一处登录,多处登录”,用于内部多个系统共用一套登录系统。 举个例子,你在淘宝登录,然后进入天猫,会发现也处于登录状态。 SSO 是一种
yamsfeer 2024-09-15
Copyright © 2024 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1