【前言】
在AI时代，Java程序员最尴尬的瞬间莫过于：想学大模型，搜出来的教程全是Python。难道我们只会调API吗？ 今天，我不调任何第三方AI库，就用你最熟悉的JDK 1.8，带你用100行左右的代码手写出LLM的灵魂——Self-Attention（自注意力机制）。 看完你会发现，大模型并不神秘，它的底层逻辑就是：数组遍历 + 加权求和。
一、 概念对齐：大模型的“肉身”是什么？
在代码开始前，我们要把AI术语翻译成程序员的白话：
Token（词元）：就是数组里的元素。
Embedding（嵌入）：把词变成一串 double[] 数组。
Self-Attention（自注意力）：让每个词去“看”一眼其他的词，计算出谁跟谁更相关。
二、 硬核实战：100行Java代码实现
这段代码包含了Q、K、V矩阵转换、Softmax归一化以及最终的加权输出。建议在IDEA里新建一个 SelfAttentionDemo.java 直接运行。
/** * Self-Attention（自注意力机制）演示程序 * 让CRUD程序员秒懂：LLM的核心就是数组遍历 + 加权求和！ */ public class SelfAttentionDemo { public static void main(String[] args) { // ========== 第一步：准备输入 ========== // 假设有3个词，每个词用4维向量表示（类似数据库里3行4列的表） double[][] input = { {1.0, 0.5, 0.2, 0.1}, // 词1: "我" {0.4, 0.8, 0.3, 0.6}, // 词2: "喜欢" {0.2, 0.3, 0.9, 0.4} // 词3: "编程" }; System.out.println("【输入矩阵】3个词 × 4维向量："); printMatrix(input); // ========== 第二步：定义权重矩阵 ========== // 这些权重就像数据库的JOIN条件，决定词与词如何关联 // 实际LLM中这些权重是训练出来的，这里随机初始化演示 double[][] Wq = {{0.1, 0.2, 0.3}, {0.4, 0.5, 0.6}, {0.7, 0.8, 0.9}, {0.2, 0.3, 0.4}}; double[][] Wk = {{0.2, 0.3, 0.4}, {0.5, 0.6, 0.7}, {0.8, 0.9, 0.1}, {0.3, 0.4, 0.5}}; double[][] Wv = {{0.3, 0.4, 0.5}, {0.6, 0.7, 0.8}, {0.9, 0.1, 0.2}, {0.4, 0.5, 0.6}}; // ========== 第三步：生成Q、K、V矩阵 ========== // Query(查询): 我要找什么？ Key(键): 我有什么？ Value(值): 我的内容是什么？ // 公式: Q = Input × Wq, K = Input × Wk, V = Input × Wv double[][] Q = matmul(input, Wq); double[][] K = matmul(input, Wk); double[][] V = matmul(input, Wv); System.out.println("\n【Query矩阵】每个词在问：我要关注谁？"); printMatrix(Q); System.out.println("【Key矩阵】每个词在说：这是我的特征标签"); printMatrix(K); System.out.println("【Value矩阵】每个词在说：这是我的实际内容"); printMatrix(V); // ========== 第四步：计算注意力分数 ========== // 公式: Score = Q × K的转置，就是每个词对其他词的"点赞数" double[][] Kt = transpose(K); double[][] scores = matmul(Q, Kt); // 缩放因子 = sqrt(d_k)，防止分数过大导致softmax梯度消失 double scale = Math.sqrt(K[0].length); for (int i = 0; i < scores.length; i++) { for (int j = 0; j < scores[0].length; j++) { scores[i][j] /= scale; } } System.out.println("\n【原始注意力分数】词与词的相似度（缩放后）："); printMatrix(scores); // ========== 第五步：Softmax归一化 ========== // 把分数转成概率，所有概率加起来=1，这就是"注意力权重" double[][] attentionWeights = new double[scores.length][scores[0].length]; for (int i = 0; i < scores.length; i++) { attentionWeights[i] = softmax(scores[i]); } System.out.println("【★ 词与词之间的关联权重矩阵 ★】"); System.out.println("（每行表示一个词对所有词的关注程度，概率之和=1）"); printMatrixWithLabels(attentionWeights); // ========== 第六步：加权求和得到输出 ========== // 公式: Output = AttentionWeights × V // 本质：用权重对Value做加权平均，就像SQL的SUM(value * weight) double[][] output = matmul(attentionWeights, V); System.out.println("\n【最终输出】融合了上下文信息的新表示："); printMatrix(output); System.out.println("\n=== 核心洞察 ==="); System.out.println("Self-Attention本质：让每个词\"看看\"其他词，决定要\"借鉴\"多少"); System.out.println("底层操作：矩阵乘法(嵌套for循环) + Softmax(指数运算) + 加权求和"); } /** 矩阵乘法：A(m×n) × B(n×p) = C(m×p)，本质是三层for循环 */ static double[][] matmul(double[][] A, double[][] B) { int m = A.length, n = A[0].length, p = B[0].length; double[][] C = new double[m][p]; for (int i = 0; i < m; i++) { for (int j = 0; j < p; j++) { C[i][j] = dotProduct(A[i], getColumn(B, j)); } } return C; } /** 向量点积：对应位置相乘再求和，衡量两个向量的"相似度" */ static double dotProduct(double[] a, double[] b) { double sum = 0; for (int i = 0; i < a.length; i++) { sum += a[i] * b[i]; // 这一行就是AI的"神经元"！ } return sum; } /** Softmax：把任意数值转成概率分布，公式: e^xi / Σe^xj */ static double[] softmax(double[] x) { double max = Double.NEGATIVE_INFINITY; for (double v : x) max = Math.max(max, v); // 防止指数爆炸 double sum = 0; double[] exp = new double[x.length]; for (int i = 0; i < x.length; i++) { exp[i] = Math.exp(x[i] - max); sum += exp[i]; } for (int i = 0; i < x.length; i++) { exp[i] /= sum; // 归一化，使概率和为1 } return exp; } /** 矩阵转置：行列互换 */ static double[][] transpose(double[][] M) { double[][] T = new double[M[0].length][M.length]; for (int i = 0; i < M.length; i++) { for (int j = 0; j < M[0].length; j++) { T[j][i] = M[i][j]; } } return T; } /** 取矩阵的某一列 */ static double[] getColumn(double[][] M, int col) { double[] column = new double[M.length]; for (int i = 0; i < M.length; i++) column[i] = M[i][col]; return column; } /** 打印矩阵 */ static void printMatrix(double[][] M) { for (double[] row : M) { System.out.print(" ["); for (int j = 0; j < row.length; j++) { System.out.printf("%6.3f%s", row[j], j < row.length - 1 ? ", " : ""); } System.out.println("]"); } } /** 带标签打印注意力权重矩阵 */ static void printMatrixWithLabels(double[][] M) { String[] words = {"我", "喜欢", "编程"}; System.out.print(" "); for (String w : words) System.out.printf("%8s", w); System.out.println(); for (int i = 0; i < M.length; i++) { System.out.printf(" %4s -> [", words[i]); for (int j = 0; j < M[i].length; j++) { System.out.printf("%6.1f%%%s", M[i][j] * 100, j < M[i].length - 1 ? ", " : ""); } System.out.println("]"); } } }三、 深度拆解：这100行代码到底干了啥？
- Q、K、V 是什么“黑话”？
在代码中，我们把输入矩阵乘了三个权重矩阵（Wq, Wk, Wv），得到了三个新矩阵：
Query (Q)：相当于“我要找什么”。
Key (K)：相当于“我有这些标签”。
Value (V)：相当于“我的真实内容”。 通过Q × K 的转置，我们就得到了词与词之间的“关联度”。
- Softmax：为什么要归一化？
你会发现代码里有一段 Math.exp 的操作。这是为了把关联分数转换成0到1之间的概率。 就像你在SQL里做 GROUP BY 后的百分比统计，所有概率加起来必须等于 1。这就决定了模型要把“注意力”分配给谁。
- 矩阵乘法：AI的“发动机”
代码里最重活的部分就是 matmul。 在Python里这只是一行 torch.matmul，但在Java里，我们用三层 for 循环清晰地看到了它的本质：这就是在算每一条数据之间的相似度。
四、 总结：Java人的AI自救指南
为什么我们要用Java重写一遍？ 因为Python 写的代码像魔法，Java 写的代码像说明书。通过这100行代码，我们看清了数学公式是如何变成代码循环的。作为Java程序员，我们不应该只会被动地调用 ChatClient，更要理解当我们在对话框输入一句话时，后台的 JVM 到底在进行多么疯狂的矩阵运算。
学AI大模型的正确顺序，千万不要搞错了
🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！
有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！
就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋
📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！
我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～
