- 博客(6)
- 收藏
- 关注
RSS订阅转载 你应该懂的AI大模型（六）之 transformers
CUDA 是 NVIDIA GPU 算力释放的关键技术，它将 GPU 从图形处理器拓展为通用计算平台，通过 CUDA开发者能够以相对低的成本实现高性能计算，加速复杂任务的落地，其生态（如支持的框架、库和工具）也在持续扩展，成为现代计算基础设施的重要组成部分。config.json是模型的配置文件，对模型做了简单说明，说明了模型的头、模型的结构、模型的参数。，内置了数百个常用的数据科学、机器学习库，并通过包管理工具（如 conda）和环境管理功能，解决了开发者在配置开发环境时面临的依赖冲突、版本兼容等痛点。
2025-07-02 07:49:22
11
转载 python并发与并行（十） ———— 结合线程与协程，将代码顺利迁移到asyncio
在前一篇中，我们用asyncio模块把通过线程来执行阻塞式I/O的TCP服务器迁移到了协程方案上面。当时我们一下子就完成了迁移，而没有分成多个步骤，这对于大型的项目来说，并不常见。如果项目比较大，那通常需要一点一点地迁移，也就是要边改边测，确保迁移过去的这一部分代码的效果跟原来相同。为了能够分步骤地迁移，必须让采用线程做阻...
2024-09-01 02:24:33
395
转载 python ddt包
使用 Python DDT 包进行数据驱动测试在软件测试过程中，数据驱动测试是一种非常重要的测试策略。通过将测试数据与测试逻辑分离，能够提高测试的可维护性和可扩展性。Python 中的 DDT（Data-Driven Tests）包特别适用于这种场景。本文将详细介绍 DDT 包的使用方式，并通过示例来展示其实际效果。什...
2024-08-06 04:33:18
108
转载 TensorRT-LLM~1
TensorRT-LLM初探（一）运行llama，以及triton tensorrt llm backend服务化TensorRT-LLM搭建运行环境以及库、模型运行等流程详解TensorRT-LLM正式出来有半个月了，一直没有时间玩，周末趁着有时间跑一下。之前玩内测版的时候就需要cuda-12.x，正式出来仍是需要cud...
2024-08-03 03:23:24
116
转载 阿里云oss存储
准备阿里云的OSS控制台访问阿里云官网，登录以后，右上角有个控制台点击左上角，然后搜索oss因为我没有开通过，所以提示开通点击开通创建bucket填写bucket名称和选择读写权限为公共读，然后完成创建然后bucket列表中，就有刚才创建的bucket了点击列表中的bucket名称，然后点击概览，看到一些基础信息，其中有个...
2024-07-23 02:16:26
118
原创 jvm内存布局
概念内存是非常重要的系统资源，是硬盘和 CPU 的中间仓库及桥梁，承载着操作系统和应用程序的实时运行。JVM 内存布局规定了 Java 在运行过程中内存申请、分配、管理的策略，保证了 JVM 的高效稳定运行。上图描述了当前比较经典的 JVM 内存布局。(堆区画小了 2333，按理来说应该是最大的区域)如果按照线程是否共享来分类的话，如下图所示：PS：线程是否共享这点，实际上理...
2024-01-31 11:10:20
938
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人