@@ -37,16 +37,11 @@ infiniStatus_t infiniopCausalSoftmax(
3737```
3838<div style =" background-color : lightblue ; padding : 1px ;" > 参数: </div >
3939
40- - ` desc ` :
41- 使用 ` infiniopCreateCausalSoftmaxDescriptor() ` 初始化的算子描述符。
42- - ` workspace ` :
43- 算子计算所需的额外工作空间。
44- - ` workspace_size ` :
45- ` workspace ` 的大小,单位:字节(byte)。
46- - ` data ` :
47- 输入以及计算结果的数据地址。张量限制见[ 创建算子描述] ( #创建算子描述 ) 部分。
48- - ` stream ` :
49- 计算流/队列。
40+ - ` desc ` : 使用 ` infiniopCreateCausalSoftmaxDescriptor() ` 初始化的算子描述符。
41+ - ` workspace ` : 算子计算所需的额外工作空间。
42+ - ` workspace_size ` : ` workspace ` 的大小,单位:字节(byte)。
43+ - ` data ` : 输入以及计算结果的数据地址。张量限制见[ 创建算子描述] ( #创建算子描述 ) 部分。
44+ - ` stream ` : 计算流/队列。
5045
5146参数限制:
5247
@@ -69,10 +64,8 @@ infiniStatus_t infiniopCreateCausalSoftmaxDescriptor(
6964```
7065<div style =" background-color : lightblue ; padding : 1px ;" > 参数:</div >
7166
72- - ` handle ` :
73- ` infiniopHandle_t ` 类型的硬件控柄。详情请看:[ ` InfiniopHandle_t ` ]
74- - ` desc_ptr ` :
75- 存放将被初始化的算子描述符的地址。
67+ - ` handle ` : ` infiniopHandle_t ` 类型的硬件控柄。详情请看:[ ` InfiniopHandle_t ` ]
68+ - ` desc_ptr ` : 存放将被初始化的算子描述符的地址。
7669 - ` t_desc ` - { dT | ((batch,) total, seqlen) | ($\ldots,1$) }:
7770 算子计算参数 ` t_desc ` 的张量描述,三维或者两维,最后一维连续。
7871
@@ -96,10 +89,8 @@ infiniStatus_t infiniopGetCausalSoftmaxWorkspaceSize(
9689```
9790<div style =" background-color : lightblue ; padding : 1px ;" > 参数:</div >
9891
99- - ` desc ` :
100- 使用 ` infiniopCreateCausalSoftmaxDescriptor() ` 初始化的算子描述符。
101- - ` size ` :
102- 存放额外空间大小的计算结果的地址。
92+ - ` desc ` : 使用 ` infiniopCreateCausalSoftmaxDescriptor() ` 初始化的算子描述符。
93+ - ` size ` : 存放额外空间大小的计算结果的地址。
10394
10495<div style =" background-color : lightblue ; padding : 1px ;" > 返回值:</div >
10596
@@ -117,20 +108,20 @@ infiniopStatus_t infiniopDestroyCausalSoftmaxDescriptor(
117108
118109<div style =" background-color : lightblue ; padding : 1px ;" > 参数: </div >
119110
120- - ` desc ` :
121- 待销毁的算子描述符。
111+ - ` desc ` : 待销毁的算子描述符。
122112
123113<div style =" background-color : lightblue ; padding : 1px ;" > 返回值: </div >
124114
125115 - [ ` INFINI_STATUS_SUCCESS ` ] , [ ` INFINI_STATUS_BAD_DEVICE ` ] .
126116
127- [ `InfiniopHandle_t` ] : /
128-
129- [ `INFINI_STATUS_SUCCESS` ] : /
130- [ `INFINI_STATUS_BAD_PARAM` ] : /
131- [ `INFINI_STATUS_INSUFFICIENT_WORKSPACE` ] : /
132- [ `INFINI_STATUS_BAD_DEVICE` ] : /
133- [ `INFINI_STATUS_EXECUTION_FAILED` ] : /
134- [ `INFINI_STATUS_BAD_TENSOR_SHAPE` ] : /
135- [ `INFINI_STATUS_BAD_TENSOR_DTYPE` ] : /
136- [ `INFINI_STATUS_BAD_TENSOR_STRIDES` ] : /
117+ <!-- 链接 -->
118+ [ `InfiniopHandle_t` ] : /infiniop/handle/README.md
119+
120+ [ `INFINI_STATUS_SUCCESS` ] : /common/status/README.md#INFINI_STATUS_SUCCESS
121+ [ `INFINI_STATUS_BAD_PARAM` ] : /common/status/README.md#INFINI_STATUS_BAD_PARAM
122+ [ `INFINI_STATUS_INSUFFICIENT_WORKSPACE` ] : /common/status/README.md#INFINI_STATUS_INSUFFICIENT_WORKSPACE
123+ [ `INFINI_STATUS_BAD_DEVICE` ] : /common/status/README.md#INFINI_STATUS_BAD_DEVICE
124+ [ `INFINI_STATUS_EXECUTION_FAILED` ] : /common/status/README.md#INFINI_STATUS_EXECUTION_FAILED
125+ [ `INFINI_STATUS_BAD_TENSOR_SHAPE` ] : /common/status/README.md#INFINI_STATUS_BAD_TENSOR_SHAPE
126+ [ `INFINI_STATUS_BAD_TENSOR_DTYPE` ] : /common/status/README.md#INFINI_STATUS_BAD_TENSOR_DTYPE
127+ [ `INFINI_STATUS_BAD_TENSOR_STRIDES` ] : /common/status/README.md#INFINI_STATUS_BAD_TENSOR_STRIDES
0 commit comments