pytorch

1
########## torch.float32/torch.int32/size=(2, 3)+(2, 3)+() ##########
2
# sparse tensor
3
tensor(ccol_indices=tensor([[[0, 2, 3, 4],
4
                             [0, 2, 3, 4],
5
                             [0, 2, 3, 4]],
6

7
                            [[0, 1, 3, 4],
8
                             [0, 2, 3, 4],
9
                             [0, 1, 3, 4]]]),
10
       row_indices=tensor([[[0, 1, 0, 1],
11
                            [0, 1, 0, 0],
12
                            [0, 1, 1, 1]],
13

14
                           [[1, 0, 1, 1],
15
                            [0, 1, 1, 0],
16
                            [0, 0, 1, 0]]]),
17
       values=tensor([[[1., 3., 2., 4.],
18
                       [1., 4., 2., 3.],
19
                       [1., 2., 3., 4.]],
20

21
                      [[2., 1., 3., 4.],
22
                       [1., 3., 4., 2.],
23
                       [1., 2., 4., 3.]]]), size=(2, 3, 2, 3), nnz=4,
24
       layout=torch.sparse_csc)
25
# _ccol_indices
26
tensor([[[0, 2, 3, 4],
27
         [0, 2, 3, 4],
28
         [0, 2, 3, 4]],
29

30
        [[0, 1, 3, 4],
31
         [0, 2, 3, 4],
32
         [0, 1, 3, 4]]], dtype=torch.int32)
33
# _row_indices
34
tensor([[[0, 1, 0, 1],
35
         [0, 1, 0, 0],
36
         [0, 1, 1, 1]],
37

38
        [[1, 0, 1, 1],
39
         [0, 1, 1, 0],
40
         [0, 0, 1, 0]]], dtype=torch.int32)
41
# _values
42
tensor([[[1., 3., 2., 4.],
43
         [1., 4., 2., 3.],
44
         [1., 2., 3., 4.]],
45

46
        [[2., 1., 3., 4.],
47
         [1., 3., 4., 2.],
48
         [1., 2., 4., 3.]]])
49

50
########## torch.float32/torch.int32/size=()+(8, 6)+() ##########
51
# sparse tensor
52
tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
53
       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
54
                           7, 0, 4, 5, 6, 7]),
55
       values=tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,
56
                       2., 10., 15.,  5., 11., 16., 18., 23.,  3., 12., 17.,
57
                      19., 24.]), size=(8, 6), nnz=24, layout=torch.sparse_csc)
58
# _ccol_indices
59
tensor([ 0,  3,  8, 11, 14, 19, 24], dtype=torch.int32)
60
# _row_indices
61
tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7],
62
       dtype=torch.int32)
63
# _values
64
tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,  2., 10., 15.,
65
         5., 11., 16., 18., 23.,  3., 12., 17., 19., 24.])
66

67

68
########## torch.float64/torch.int32/size=(2, 3)+(2, 3)+() ##########
69
# sparse tensor
70
tensor(ccol_indices=tensor([[[0, 2, 3, 4],
71
                             [0, 2, 3, 4],
72
                             [0, 2, 3, 4]],
73

74
                            [[0, 1, 3, 4],
75
                             [0, 2, 3, 4],
76
                             [0, 1, 3, 4]]]),
77
       row_indices=tensor([[[0, 1, 0, 1],
78
                            [0, 1, 0, 0],
79
                            [0, 1, 1, 1]],
80

81
                           [[1, 0, 1, 1],
82
                            [0, 1, 1, 0],
83
                            [0, 0, 1, 0]]]),
84
       values=tensor([[[1., 3., 2., 4.],
85
                       [1., 4., 2., 3.],
86
                       [1., 2., 3., 4.]],
87

88
                      [[2., 1., 3., 4.],
89
                       [1., 3., 4., 2.],
90
                       [1., 2., 4., 3.]]]), size=(2, 3, 2, 3), nnz=4,
91
       dtype=torch.float64, layout=torch.sparse_csc)
92
# _ccol_indices
93
tensor([[[0, 2, 3, 4],
94
         [0, 2, 3, 4],
95
         [0, 2, 3, 4]],
96

97
        [[0, 1, 3, 4],
98
         [0, 2, 3, 4],
99
         [0, 1, 3, 4]]], dtype=torch.int32)
100
# _row_indices
101
tensor([[[0, 1, 0, 1],
102
         [0, 1, 0, 0],
103
         [0, 1, 1, 1]],
104

105
        [[1, 0, 1, 1],
106
         [0, 1, 1, 0],
107
         [0, 0, 1, 0]]], dtype=torch.int32)
108
# _values
109
tensor([[[1., 3., 2., 4.],
110
         [1., 4., 2., 3.],
111
         [1., 2., 3., 4.]],
112

113
        [[2., 1., 3., 4.],
114
         [1., 3., 4., 2.],
115
         [1., 2., 4., 3.]]], dtype=torch.float64)
116

117
########## torch.float64/torch.int32/size=()+(8, 6)+() ##########
118
# sparse tensor
119
tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
120
       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
121
                           7, 0, 4, 5, 6, 7]),
122
       values=tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,
123
                       2., 10., 15.,  5., 11., 16., 18., 23.,  3., 12., 17.,
124
                      19., 24.]), size=(8, 6), nnz=24, dtype=torch.float64,
125
       layout=torch.sparse_csc)
126
# _ccol_indices
127
tensor([ 0,  3,  8, 11, 14, 19, 24], dtype=torch.int32)
128
# _row_indices
129
tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7],
130
       dtype=torch.int32)
131
# _values
132
tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,  2., 10., 15.,
133
         5., 11., 16., 18., 23.,  3., 12., 17., 19., 24.], dtype=torch.float64)
134

135

136
########## torch.float32/torch.int64/size=(2, 3)+(2, 3)+() ##########
137
# sparse tensor
138
tensor(ccol_indices=tensor([[[0, 2, 3, 4],
139
                             [0, 2, 3, 4],
140
                             [0, 2, 3, 4]],
141

142
                            [[0, 1, 3, 4],
143
                             [0, 2, 3, 4],
144
                             [0, 1, 3, 4]]]),
145
       row_indices=tensor([[[0, 1, 0, 1],
146
                            [0, 1, 0, 0],
147
                            [0, 1, 1, 1]],
148

149
                           [[1, 0, 1, 1],
150
                            [0, 1, 1, 0],
151
                            [0, 0, 1, 0]]]),
152
       values=tensor([[[1., 3., 2., 4.],
153
                       [1., 4., 2., 3.],
154
                       [1., 2., 3., 4.]],
155

156
                      [[2., 1., 3., 4.],
157
                       [1., 3., 4., 2.],
158
                       [1., 2., 4., 3.]]]), size=(2, 3, 2, 3), nnz=4,
159
       layout=torch.sparse_csc)
160
# _ccol_indices
161
tensor([[[0, 2, 3, 4],
162
         [0, 2, 3, 4],
163
         [0, 2, 3, 4]],
164

165
        [[0, 1, 3, 4],
166
         [0, 2, 3, 4],
167
         [0, 1, 3, 4]]])
168
# _row_indices
169
tensor([[[0, 1, 0, 1],
170
         [0, 1, 0, 0],
171
         [0, 1, 1, 1]],
172

173
        [[1, 0, 1, 1],
174
         [0, 1, 1, 0],
175
         [0, 0, 1, 0]]])
176
# _values
177
tensor([[[1., 3., 2., 4.],
178
         [1., 4., 2., 3.],
179
         [1., 2., 3., 4.]],
180

181
        [[2., 1., 3., 4.],
182
         [1., 3., 4., 2.],
183
         [1., 2., 4., 3.]]])
184

185
########## torch.float32/torch.int64/size=()+(8, 6)+() ##########
186
# sparse tensor
187
tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
188
       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
189
                           7, 0, 4, 5, 6, 7]),
190
       values=tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,
191
                       2., 10., 15.,  5., 11., 16., 18., 23.,  3., 12., 17.,
192
                      19., 24.]), size=(8, 6), nnz=24, layout=torch.sparse_csc)
193
# _ccol_indices
194
tensor([ 0,  3,  8, 11, 14, 19, 24])
195
# _row_indices
196
tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7])
197
# _values
198
tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,  2., 10., 15.,
199
         5., 11., 16., 18., 23.,  3., 12., 17., 19., 24.])
200

201

202
########## torch.float64/torch.int64/size=(2, 3)+(2, 3)+() ##########
203
# sparse tensor
204
tensor(ccol_indices=tensor([[[0, 2, 3, 4],
205
                             [0, 2, 3, 4],
206
                             [0, 2, 3, 4]],
207

208
                            [[0, 1, 3, 4],
209
                             [0, 2, 3, 4],
210
                             [0, 1, 3, 4]]]),
211
       row_indices=tensor([[[0, 1, 0, 1],
212
                            [0, 1, 0, 0],
213
                            [0, 1, 1, 1]],
214

215
                           [[1, 0, 1, 1],
216
                            [0, 1, 1, 0],
217
                            [0, 0, 1, 0]]]),
218
       values=tensor([[[1., 3., 2., 4.],
219
                       [1., 4., 2., 3.],
220
                       [1., 2., 3., 4.]],
221

222
                      [[2., 1., 3., 4.],
223
                       [1., 3., 4., 2.],
224
                       [1., 2., 4., 3.]]]), size=(2, 3, 2, 3), nnz=4,
225
       dtype=torch.float64, layout=torch.sparse_csc)
226
# _ccol_indices
227
tensor([[[0, 2, 3, 4],
228
         [0, 2, 3, 4],
229
         [0, 2, 3, 4]],
230

231
        [[0, 1, 3, 4],
232
         [0, 2, 3, 4],
233
         [0, 1, 3, 4]]])
234
# _row_indices
235
tensor([[[0, 1, 0, 1],
236
         [0, 1, 0, 0],
237
         [0, 1, 1, 1]],
238

239
        [[1, 0, 1, 1],
240
         [0, 1, 1, 0],
241
         [0, 0, 1, 0]]])
242
# _values
243
tensor([[[1., 3., 2., 4.],
244
         [1., 4., 2., 3.],
245
         [1., 2., 3., 4.]],
246

247
        [[2., 1., 3., 4.],
248
         [1., 3., 4., 2.],
249
         [1., 2., 4., 3.]]], dtype=torch.float64)
250

251
########## torch.float64/torch.int64/size=()+(8, 6)+() ##########
252
# sparse tensor
253
tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
254
       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
255
                           7, 0, 4, 5, 6, 7]),
256
       values=tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,
257
                       2., 10., 15.,  5., 11., 16., 18., 23.,  3., 12., 17.,
258
                      19., 24.]), size=(8, 6), nnz=24, dtype=torch.float64,
259
       layout=torch.sparse_csc)
260
# _ccol_indices
261
tensor([ 0,  3,  8, 11, 14, 19, 24])
262
# _row_indices
263
tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7])
264
# _values
265
tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,  2., 10., 15.,
266
         5., 11., 16., 18., 23.,  3., 12., 17., 19., 24.], dtype=torch.float64)
267

268

269
########## torch.float32/torch.int32/size=(2, 3)+(2, 3)+(4,) ##########
270
# sparse tensor
271
tensor(ccol_indices=tensor([[[0, 2, 3, 4],
272
                             [0, 2, 3, 4],
273
                             [0, 2, 3, 4]],
274

275
                            [[0, 1, 3, 4],
276
                             [0, 2, 3, 4],
277
                             [0, 1, 3, 4]]]),
278
       row_indices=tensor([[[0, 1, 0, 1],
279
                            [0, 1, 0, 0],
280
                            [0, 1, 1, 1]],
281

282
                           [[1, 0, 1, 1],
283
                            [0, 1, 1, 0],
284
                            [0, 0, 1, 0]]]),
285
       values=tensor([[[[1., 2., 3., 4.],
286
                        [3., 4., 5., 6.],
287
                        [2., 3., 4., 5.],
288
                        [4., 5., 6., 7.]],
289

290
                       [[1., 2., 3., 4.],
291
                        [4., 5., 6., 7.],
292
                        [2., 3., 4., 5.],
293
                        [3., 4., 5., 6.]],
294

295
                       [[1., 2., 3., 4.],
296
                        [2., 3., 4., 5.],
297
                        [3., 4., 5., 6.],
298
                        [4., 5., 6., 7.]]],
299

300

301
                      [[[2., 3., 4., 5.],
302
                        [1., 2., 3., 4.],
303
                        [3., 4., 5., 6.],
304
                        [4., 5., 6., 7.]],
305

306
                       [[1., 2., 3., 4.],
307
                        [3., 4., 5., 6.],
308
                        [4., 5., 6., 7.],
309
                        [2., 3., 4., 5.]],
310

311
                       [[1., 2., 3., 4.],
312
                        [2., 3., 4., 5.],
313
                        [4., 5., 6., 7.],
314
                        [3., 4., 5., 6.]]]]), size=(2, 3, 2, 3, 4), nnz=4,
315
       layout=torch.sparse_csc)
316
# _ccol_indices
317
tensor([[[0, 2, 3, 4],
318
         [0, 2, 3, 4],
319
         [0, 2, 3, 4]],
320

321
        [[0, 1, 3, 4],
322
         [0, 2, 3, 4],
323
         [0, 1, 3, 4]]], dtype=torch.int32)
324
# _row_indices
325
tensor([[[0, 1, 0, 1],
326
         [0, 1, 0, 0],
327
         [0, 1, 1, 1]],
328

329
        [[1, 0, 1, 1],
330
         [0, 1, 1, 0],
331
         [0, 0, 1, 0]]], dtype=torch.int32)
332
# _values
333
tensor([[[[1., 2., 3., 4.],
334
          [3., 4., 5., 6.],
335
          [2., 3., 4., 5.],
336
          [4., 5., 6., 7.]],
337

338
         [[1., 2., 3., 4.],
339
          [4., 5., 6., 7.],
340
          [2., 3., 4., 5.],
341
          [3., 4., 5., 6.]],
342

343
         [[1., 2., 3., 4.],
344
          [2., 3., 4., 5.],
345
          [3., 4., 5., 6.],
346
          [4., 5., 6., 7.]]],
347

348

349
        [[[2., 3., 4., 5.],
350
          [1., 2., 3., 4.],
351
          [3., 4., 5., 6.],
352
          [4., 5., 6., 7.]],
353

354
         [[1., 2., 3., 4.],
355
          [3., 4., 5., 6.],
356
          [4., 5., 6., 7.],
357
          [2., 3., 4., 5.]],
358

359
         [[1., 2., 3., 4.],
360
          [2., 3., 4., 5.],
361
          [4., 5., 6., 7.],
362
          [3., 4., 5., 6.]]]])
363

364
########## torch.float32/torch.int32/size=()+(8, 6)+(4, 2) ##########
365
# sparse tensor
366
tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
367
       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
368
                           7, 0, 4, 5, 6, 7]),
369
       values=tensor([[[ 6., 16.],
370
                       [ 7., 17.],
371
                       [ 8., 18.],
372
                       [ 9., 19.]],
373

374
                      [[13., 23.],
375
                       [14., 24.],
376
                       [15., 25.],
377
                       [16., 26.]],
378

379
                      [[20., 30.],
380
                       [21., 31.],
381
                       [22., 32.],
382
                       [23., 33.]],
383

384
                      [[ 1., 11.],
385
                       [ 2., 12.],
386
                       [ 3., 13.],
387
                       [ 4., 14.]],
388

389
                      [[ 4., 14.],
390
                       [ 5., 15.],
391
                       [ 6., 16.],
392
                       [ 7., 17.]],
393

394
                      [[ 7., 17.],
395
                       [ 8., 18.],
396
                       [ 9., 19.],
397
                       [10., 20.]],
398

399
                      [[ 9., 19.],
400
                       [10., 20.],
401
                       [11., 21.],
402
                       [12., 22.]],
403

404
                      [[21., 31.],
405
                       [22., 32.],
406
                       [23., 33.],
407
                       [24., 34.]],
408

409
                      [[ 8., 18.],
410
                       [ 9., 19.],
411
                       [10., 20.],
412
                       [11., 21.]],
413

414
                      [[14., 24.],
415
                       [15., 25.],
416
                       [16., 26.],
417
                       [17., 27.]],
418

419
                      [[22., 32.],
420
                       [23., 33.],
421
                       [24., 34.],
422
                       [25., 35.]],
423

424
                      [[ 2., 12.],
425
                       [ 3., 13.],
426
                       [ 4., 14.],
427
                       [ 5., 15.]],
428

429
                      [[10., 20.],
430
                       [11., 21.],
431
                       [12., 22.],
432
                       [13., 23.]],
433

434
                      [[15., 25.],
435
                       [16., 26.],
436
                       [17., 27.],
437
                       [18., 28.]],
438

439
                      [[ 5., 15.],
440
                       [ 6., 16.],
441
                       [ 7., 17.],
442
                       [ 8., 18.]],
443

444
                      [[11., 21.],
445
                       [12., 22.],
446
                       [13., 23.],
447
                       [14., 24.]],
448

449
                      [[16., 26.],
450
                       [17., 27.],
451
                       [18., 28.],
452
                       [19., 29.]],
453

454
                      [[18., 28.],
455
                       [19., 29.],
456
                       [20., 30.],
457
                       [21., 31.]],
458

459
                      [[23., 33.],
460
                       [24., 34.],
461
                       [25., 35.],
462
                       [26., 36.]],
463

464
                      [[ 3., 13.],
465
                       [ 4., 14.],
466
                       [ 5., 15.],
467
                       [ 6., 16.]],
468

469
                      [[12., 22.],
470
                       [13., 23.],
471
                       [14., 24.],
472
                       [15., 25.]],
473

474
                      [[17., 27.],
475
                       [18., 28.],
476
                       [19., 29.],
477
                       [20., 30.]],
478

479
                      [[19., 29.],
480
                       [20., 30.],
481
                       [21., 31.],
482
                       [22., 32.]],
483

484
                      [[24., 34.],
485
                       [25., 35.],
486
                       [26., 36.],
487
                       [27., 37.]]]), size=(8, 6, 4, 2), nnz=24,
488
       layout=torch.sparse_csc)
489
# _ccol_indices
490
tensor([ 0,  3,  8, 11, 14, 19, 24], dtype=torch.int32)
491
# _row_indices
492
tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7],
493
       dtype=torch.int32)
494
# _values
495
tensor([[[ 6., 16.],
496
         [ 7., 17.],
497
         [ 8., 18.],
498
         [ 9., 19.]],
499

500
        [[13., 23.],
501
         [14., 24.],
502
         [15., 25.],
503
         [16., 26.]],
504

505
        [[20., 30.],
506
         [21., 31.],
507
         [22., 32.],
508
         [23., 33.]],
509

510
        [[ 1., 11.],
511
         [ 2., 12.],
512
         [ 3., 13.],
513
         [ 4., 14.]],
514

515
        [[ 4., 14.],
516
         [ 5., 15.],
517
         [ 6., 16.],
518
         [ 7., 17.]],
519

520
        [[ 7., 17.],
521
         [ 8., 18.],
522
         [ 9., 19.],
523
         [10., 20.]],
524

525
        [[ 9., 19.],
526
         [10., 20.],
527
         [11., 21.],
528
         [12., 22.]],
529

530
        [[21., 31.],
531
         [22., 32.],
532
         [23., 33.],
533
         [24., 34.]],
534

535
        [[ 8., 18.],
536
         [ 9., 19.],
537
         [10., 20.],
538
         [11., 21.]],
539

540
        [[14., 24.],
541
         [15., 25.],
542
         [16., 26.],
543
         [17., 27.]],
544

545
        [[22., 32.],
546
         [23., 33.],
547
         [24., 34.],
548
         [25., 35.]],
549

550
        [[ 2., 12.],
551
         [ 3., 13.],
552
         [ 4., 14.],
553
         [ 5., 15.]],
554

555
        [[10., 20.],
556
         [11., 21.],
557
         [12., 22.],
558
         [13., 23.]],
559

560
        [[15., 25.],
561
         [16., 26.],
562
         [17., 27.],
563
         [18., 28.]],
564

565
        [[ 5., 15.],
566
         [ 6., 16.],
567
         [ 7., 17.],
568
         [ 8., 18.]],
569

570
        [[11., 21.],
571
         [12., 22.],
572
         [13., 23.],
573
         [14., 24.]],
574

575
        [[16., 26.],
576
         [17., 27.],
577
         [18., 28.],
578
         [19., 29.]],
579

580
        [[18., 28.],
581
         [19., 29.],
582
         [20., 30.],
583
         [21., 31.]],
584

585
        [[23., 33.],
586
         [24., 34.],
587
         [25., 35.],
588
         [26., 36.]],
589

590
        [[ 3., 13.],
591
         [ 4., 14.],
592
         [ 5., 15.],
593
         [ 6., 16.]],
594

595
        [[12., 22.],
596
         [13., 23.],
597
         [14., 24.],
598
         [15., 25.]],
599

600
        [[17., 27.],
601
         [18., 28.],
602
         [19., 29.],
603
         [20., 30.]],
604

605
        [[19., 29.],
606
         [20., 30.],
607
         [21., 31.],
608
         [22., 32.]],
609

610
        [[24., 34.],
611
         [25., 35.],
612
         [26., 36.],
613
         [27., 37.]]])
614

615

616
########## torch.float64/torch.int32/size=(2, 3)+(2, 3)+(4,) ##########
617
# sparse tensor
618
tensor(ccol_indices=tensor([[[0, 2, 3, 4],
619
                             [0, 2, 3, 4],
620
                             [0, 2, 3, 4]],
621

622
                            [[0, 1, 3, 4],
623
                             [0, 2, 3, 4],
624
                             [0, 1, 3, 4]]]),
625
       row_indices=tensor([[[0, 1, 0, 1],
626
                            [0, 1, 0, 0],
627
                            [0, 1, 1, 1]],
628

629
                           [[1, 0, 1, 1],
630
                            [0, 1, 1, 0],
631
                            [0, 0, 1, 0]]]),
632
       values=tensor([[[[1., 2., 3., 4.],
633
                        [3., 4., 5., 6.],
634
                        [2., 3., 4., 5.],
635
                        [4., 5., 6., 7.]],
636

637
                       [[1., 2., 3., 4.],
638
                        [4., 5., 6., 7.],
639
                        [2., 3., 4., 5.],
640
                        [3., 4., 5., 6.]],
641

642
                       [[1., 2., 3., 4.],
643
                        [2., 3., 4., 5.],
644
                        [3., 4., 5., 6.],
645
                        [4., 5., 6., 7.]]],
646

647

648
                      [[[2., 3., 4., 5.],
649
                        [1., 2., 3., 4.],
650
                        [3., 4., 5., 6.],
651
                        [4., 5., 6., 7.]],
652

653
                       [[1., 2., 3., 4.],
654
                        [3., 4., 5., 6.],
655
                        [4., 5., 6., 7.],
656
                        [2., 3., 4., 5.]],
657

658
                       [[1., 2., 3., 4.],
659
                        [2., 3., 4., 5.],
660
                        [4., 5., 6., 7.],
661
                        [3., 4., 5., 6.]]]]), size=(2, 3, 2, 3, 4), nnz=4,
662
       dtype=torch.float64, layout=torch.sparse_csc)
663
# _ccol_indices
664
tensor([[[0, 2, 3, 4],
665
         [0, 2, 3, 4],
666
         [0, 2, 3, 4]],
667

668
        [[0, 1, 3, 4],
669
         [0, 2, 3, 4],
670
         [0, 1, 3, 4]]], dtype=torch.int32)
671
# _row_indices
672
tensor([[[0, 1, 0, 1],
673
         [0, 1, 0, 0],
674
         [0, 1, 1, 1]],
675

676
        [[1, 0, 1, 1],
677
         [0, 1, 1, 0],
678
         [0, 0, 1, 0]]], dtype=torch.int32)
679
# _values
680
tensor([[[[1., 2., 3., 4.],
681
          [3., 4., 5., 6.],
682
          [2., 3., 4., 5.],
683
          [4., 5., 6., 7.]],
684

685
         [[1., 2., 3., 4.],
686
          [4., 5., 6., 7.],
687
          [2., 3., 4., 5.],
688
          [3., 4., 5., 6.]],
689

690
         [[1., 2., 3., 4.],
691
          [2., 3., 4., 5.],
692
          [3., 4., 5., 6.],
693
          [4., 5., 6., 7.]]],
694

695

696
        [[[2., 3., 4., 5.],
697
          [1., 2., 3., 4.],
698
          [3., 4., 5., 6.],
699
          [4., 5., 6., 7.]],
700

701
         [[1., 2., 3., 4.],
702
          [3., 4., 5., 6.],
703
          [4., 5., 6., 7.],
704
          [2., 3., 4., 5.]],
705

706
         [[1., 2., 3., 4.],
707
          [2., 3., 4., 5.],
708
          [4., 5., 6., 7.],
709
          [3., 4., 5., 6.]]]], dtype=torch.float64)
710

711
########## torch.float64/torch.int32/size=()+(8, 6)+(4, 2) ##########
712
# sparse tensor
713
tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
714
       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
715
                           7, 0, 4, 5, 6, 7]),
716
       values=tensor([[[ 6., 16.],
717
                       [ 7., 17.],
718
                       [ 8., 18.],
719
                       [ 9., 19.]],
720

721
                      [[13., 23.],
722
                       [14., 24.],
723
                       [15., 25.],
724
                       [16., 26.]],
725

726
                      [[20., 30.],
727
                       [21., 31.],
728
                       [22., 32.],
729
                       [23., 33.]],
730

731
                      [[ 1., 11.],
732
                       [ 2., 12.],
733
                       [ 3., 13.],
734
                       [ 4., 14.]],
735

736
                      [[ 4., 14.],
737
                       [ 5., 15.],
738
                       [ 6., 16.],
739
                       [ 7., 17.]],
740

741
                      [[ 7., 17.],
742
                       [ 8., 18.],
743
                       [ 9., 19.],
744
                       [10., 20.]],
745

746
                      [[ 9., 19.],
747
                       [10., 20.],
748
                       [11., 21.],
749
                       [12., 22.]],
750

751
                      [[21., 31.],
752
                       [22., 32.],
753
                       [23., 33.],
754
                       [24., 34.]],
755

756
                      [[ 8., 18.],
757
                       [ 9., 19.],
758
                       [10., 20.],
759
                       [11., 21.]],
760

761
                      [[14., 24.],
762
                       [15., 25.],
763
                       [16., 26.],
764
                       [17., 27.]],
765

766
                      [[22., 32.],
767
                       [23., 33.],
768
                       [24., 34.],
769
                       [25., 35.]],
770

771
                      [[ 2., 12.],
772
                       [ 3., 13.],
773
                       [ 4., 14.],
774
                       [ 5., 15.]],
775

776
                      [[10., 20.],
777
                       [11., 21.],
778
                       [12., 22.],
779
                       [13., 23.]],
780

781
                      [[15., 25.],
782
                       [16., 26.],
783
                       [17., 27.],
784
                       [18., 28.]],
785

786
                      [[ 5., 15.],
787
                       [ 6., 16.],
788
                       [ 7., 17.],
789
                       [ 8., 18.]],
790

791
                      [[11., 21.],
792
                       [12., 22.],
793
                       [13., 23.],
794
                       [14., 24.]],
795

796
                      [[16., 26.],
797
                       [17., 27.],
798
                       [18., 28.],
799
                       [19., 29.]],
800

801
                      [[18., 28.],
802
                       [19., 29.],
803
                       [20., 30.],
804
                       [21., 31.]],
805

806
                      [[23., 33.],
807
                       [24., 34.],
808
                       [25., 35.],
809
                       [26., 36.]],
810

811
                      [[ 3., 13.],
812
                       [ 4., 14.],
813
                       [ 5., 15.],
814
                       [ 6., 16.]],
815

816
                      [[12., 22.],
817
                       [13., 23.],
818
                       [14., 24.],
819
                       [15., 25.]],
820

821
                      [[17., 27.],
822
                       [18., 28.],
823
                       [19., 29.],
824
                       [20., 30.]],
825

826
                      [[19., 29.],
827
                       [20., 30.],
828
                       [21., 31.],
829
                       [22., 32.]],
830

831
                      [[24., 34.],
832
                       [25., 35.],
833
                       [26., 36.],
834
                       [27., 37.]]]), size=(8, 6, 4, 2), nnz=24,
835
       dtype=torch.float64, layout=torch.sparse_csc)
836
# _ccol_indices
837
tensor([ 0,  3,  8, 11, 14, 19, 24], dtype=torch.int32)
838
# _row_indices
839
tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7],
840
       dtype=torch.int32)
841
# _values
842
tensor([[[ 6., 16.],
843
         [ 7., 17.],
844
         [ 8., 18.],
845
         [ 9., 19.]],
846

847
        [[13., 23.],
848
         [14., 24.],
849
         [15., 25.],
850
         [16., 26.]],
851

852
        [[20., 30.],
853
         [21., 31.],
854
         [22., 32.],
855
         [23., 33.]],
856

857
        [[ 1., 11.],
858
         [ 2., 12.],
859
         [ 3., 13.],
860
         [ 4., 14.]],
861

862
        [[ 4., 14.],
863
         [ 5., 15.],
864
         [ 6., 16.],
865
         [ 7., 17.]],
866

867
        [[ 7., 17.],
868
         [ 8., 18.],
869
         [ 9., 19.],
870
         [10., 20.]],
871

872
        [[ 9., 19.],
873
         [10., 20.],
874
         [11., 21.],
875
         [12., 22.]],
876

877
        [[21., 31.],
878
         [22., 32.],
879
         [23., 33.],
880
         [24., 34.]],
881

882
        [[ 8., 18.],
883
         [ 9., 19.],
884
         [10., 20.],
885
         [11., 21.]],
886

887
        [[14., 24.],
888
         [15., 25.],
889
         [16., 26.],
890
         [17., 27.]],
891

892
        [[22., 32.],
893
         [23., 33.],
894
         [24., 34.],
895
         [25., 35.]],
896

897
        [[ 2., 12.],
898
         [ 3., 13.],
899
         [ 4., 14.],
900
         [ 5., 15.]],
901

902
        [[10., 20.],
903
         [11., 21.],
904
         [12., 22.],
905
         [13., 23.]],
906

907
        [[15., 25.],
908
         [16., 26.],
909
         [17., 27.],
910
         [18., 28.]],
911

912
        [[ 5., 15.],
913
         [ 6., 16.],
914
         [ 7., 17.],
915
         [ 8., 18.]],
916

917
        [[11., 21.],
918
         [12., 22.],
919
         [13., 23.],
920
         [14., 24.]],
921

922
        [[16., 26.],
923
         [17., 27.],
924
         [18., 28.],
925
         [19., 29.]],
926

927
        [[18., 28.],
928
         [19., 29.],
929
         [20., 30.],
930
         [21., 31.]],
931

932
        [[23., 33.],
933
         [24., 34.],
934
         [25., 35.],
935
         [26., 36.]],
936

937
        [[ 3., 13.],
938
         [ 4., 14.],
939
         [ 5., 15.],
940
         [ 6., 16.]],
941

942
        [[12., 22.],
943
         [13., 23.],
944
         [14., 24.],
945
         [15., 25.]],
946

947
        [[17., 27.],
948
         [18., 28.],
949
         [19., 29.],
950
         [20., 30.]],
951

952
        [[19., 29.],
953
         [20., 30.],
954
         [21., 31.],
955
         [22., 32.]],
956

957
        [[24., 34.],
958
         [25., 35.],
959
         [26., 36.],
960
         [27., 37.]]], dtype=torch.float64)
961

962

963
########## torch.float32/torch.int64/size=(2, 3)+(2, 3)+(4,) ##########
964
# sparse tensor
965
tensor(ccol_indices=tensor([[[0, 2, 3, 4],
966
                             [0, 2, 3, 4],
967
                             [0, 2, 3, 4]],
968

969
                            [[0, 1, 3, 4],
970
                             [0, 2, 3, 4],
971
                             [0, 1, 3, 4]]]),
972
       row_indices=tensor([[[0, 1, 0, 1],
973
                            [0, 1, 0, 0],
974
                            [0, 1, 1, 1]],
975

976
                           [[1, 0, 1, 1],
977
                            [0, 1, 1, 0],
978
                            [0, 0, 1, 0]]]),
979
       values=tensor([[[[1., 2., 3., 4.],
980
                        [3., 4., 5., 6.],
981
                        [2., 3., 4., 5.],
982
                        [4., 5., 6., 7.]],
983

984
                       [[1., 2., 3., 4.],
985
                        [4., 5., 6., 7.],
986
                        [2., 3., 4., 5.],
987
                        [3., 4., 5., 6.]],
988

989
                       [[1., 2., 3., 4.],
990
                        [2., 3., 4., 5.],
991
                        [3., 4., 5., 6.],
992
                        [4., 5., 6., 7.]]],
993

994

995
                      [[[2., 3., 4., 5.],
996
                        [1., 2., 3., 4.],
997
                        [3., 4., 5., 6.],
998
                        [4., 5., 6., 7.]],
999

1000
                       [[1., 2., 3., 4.],
1001
                        [3., 4., 5., 6.],
1002
                        [4., 5., 6., 7.],
1003
                        [2., 3., 4., 5.]],
1004

1005
                       [[1., 2., 3., 4.],
1006
                        [2., 3., 4., 5.],
1007
                        [4., 5., 6., 7.],
1008
                        [3., 4., 5., 6.]]]]), size=(2, 3, 2, 3, 4), nnz=4,
1009
       layout=torch.sparse_csc)
1010
# _ccol_indices
1011
tensor([[[0, 2, 3, 4],
1012
         [0, 2, 3, 4],
1013
         [0, 2, 3, 4]],
1014

1015
        [[0, 1, 3, 4],
1016
         [0, 2, 3, 4],
1017
         [0, 1, 3, 4]]])
1018
# _row_indices
1019
tensor([[[0, 1, 0, 1],
1020
         [0, 1, 0, 0],
1021
         [0, 1, 1, 1]],
1022

1023
        [[1, 0, 1, 1],
1024
         [0, 1, 1, 0],
1025
         [0, 0, 1, 0]]])
1026
# _values
1027
tensor([[[[1., 2., 3., 4.],
1028
          [3., 4., 5., 6.],
1029
          [2., 3., 4., 5.],
1030
          [4., 5., 6., 7.]],
1031

1032
         [[1., 2., 3., 4.],
1033
          [4., 5., 6., 7.],
1034
          [2., 3., 4., 5.],
1035
          [3., 4., 5., 6.]],
1036

1037
         [[1., 2., 3., 4.],
1038
          [2., 3., 4., 5.],
1039
          [3., 4., 5., 6.],
1040
          [4., 5., 6., 7.]]],
1041

1042

1043
        [[[2., 3., 4., 5.],
1044
          [1., 2., 3., 4.],
1045
          [3., 4., 5., 6.],
1046
          [4., 5., 6., 7.]],
1047

1048
         [[1., 2., 3., 4.],
1049
          [3., 4., 5., 6.],
1050
          [4., 5., 6., 7.],
1051
          [2., 3., 4., 5.]],
1052

1053
         [[1., 2., 3., 4.],
1054
          [2., 3., 4., 5.],
1055
          [4., 5., 6., 7.],
1056
          [3., 4., 5., 6.]]]])
1057

1058
########## torch.float32/torch.int64/size=()+(8, 6)+(4, 2) ##########
1059
# sparse tensor
1060
tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
1061
       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
1062
                           7, 0, 4, 5, 6, 7]),
1063
       values=tensor([[[ 6., 16.],
1064
                       [ 7., 17.],
1065
                       [ 8., 18.],
1066
                       [ 9., 19.]],
1067

1068
                      [[13., 23.],
1069
                       [14., 24.],
1070
                       [15., 25.],
1071
                       [16., 26.]],
1072

1073
                      [[20., 30.],
1074
                       [21., 31.],
1075
                       [22., 32.],
1076
                       [23., 33.]],
1077

1078
                      [[ 1., 11.],
1079
                       [ 2., 12.],
1080
                       [ 3., 13.],
1081
                       [ 4., 14.]],
1082

1083
                      [[ 4., 14.],
1084
                       [ 5., 15.],
1085
                       [ 6., 16.],
1086
                       [ 7., 17.]],
1087

1088
                      [[ 7., 17.],
1089
                       [ 8., 18.],
1090
                       [ 9., 19.],
1091
                       [10., 20.]],
1092

1093
                      [[ 9., 19.],
1094
                       [10., 20.],
1095
                       [11., 21.],
1096
                       [12., 22.]],
1097

1098
                      [[21., 31.],
1099
                       [22., 32.],
1100
                       [23., 33.],
1101
                       [24., 34.]],
1102

1103
                      [[ 8., 18.],
1104
                       [ 9., 19.],
1105
                       [10., 20.],
1106
                       [11., 21.]],
1107

1108
                      [[14., 24.],
1109
                       [15., 25.],
1110
                       [16., 26.],
1111
                       [17., 27.]],
1112

1113
                      [[22., 32.],
1114
                       [23., 33.],
1115
                       [24., 34.],
1116
                       [25., 35.]],
1117

1118
                      [[ 2., 12.],
1119
                       [ 3., 13.],
1120
                       [ 4., 14.],
1121
                       [ 5., 15.]],
1122

1123
                      [[10., 20.],
1124
                       [11., 21.],
1125
                       [12., 22.],
1126
                       [13., 23.]],
1127

1128
                      [[15., 25.],
1129
                       [16., 26.],
1130
                       [17., 27.],
1131
                       [18., 28.]],
1132

1133
                      [[ 5., 15.],
1134
                       [ 6., 16.],
1135
                       [ 7., 17.],
1136
                       [ 8., 18.]],
1137

1138
                      [[11., 21.],
1139
                       [12., 22.],
1140
                       [13., 23.],
1141
                       [14., 24.]],
1142

1143
                      [[16., 26.],
1144
                       [17., 27.],
1145
                       [18., 28.],
1146
                       [19., 29.]],
1147

1148
                      [[18., 28.],
1149
                       [19., 29.],
1150
                       [20., 30.],
1151
                       [21., 31.]],
1152

1153
                      [[23., 33.],
1154
                       [24., 34.],
1155
                       [25., 35.],
1156
                       [26., 36.]],
1157

1158
                      [[ 3., 13.],
1159
                       [ 4., 14.],
1160
                       [ 5., 15.],
1161
                       [ 6., 16.]],
1162

1163
                      [[12., 22.],
1164
                       [13., 23.],
1165
                       [14., 24.],
1166
                       [15., 25.]],
1167

1168
                      [[17., 27.],
1169
                       [18., 28.],
1170
                       [19., 29.],
1171
                       [20., 30.]],
1172

1173
                      [[19., 29.],
1174
                       [20., 30.],
1175
                       [21., 31.],
1176
                       [22., 32.]],
1177

1178
                      [[24., 34.],
1179
                       [25., 35.],
1180
                       [26., 36.],
1181
                       [27., 37.]]]), size=(8, 6, 4, 2), nnz=24,
1182
       layout=torch.sparse_csc)
1183
# _ccol_indices
1184
tensor([ 0,  3,  8, 11, 14, 19, 24])
1185
# _row_indices
1186
tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7])
1187
# _values
1188
tensor([[[ 6., 16.],
1189
         [ 7., 17.],
1190
         [ 8., 18.],
1191
         [ 9., 19.]],
1192

1193
        [[13., 23.],
1194
         [14., 24.],
1195
         [15., 25.],
1196
         [16., 26.]],
1197

1198
        [[20., 30.],
1199
         [21., 31.],
1200
         [22., 32.],
1201
         [23., 33.]],
1202

1203
        [[ 1., 11.],
1204
         [ 2., 12.],
1205
         [ 3., 13.],
1206
         [ 4., 14.]],
1207

1208
        [[ 4., 14.],
1209
         [ 5., 15.],
1210
         [ 6., 16.],
1211
         [ 7., 17.]],
1212

1213
        [[ 7., 17.],
1214
         [ 8., 18.],
1215
         [ 9., 19.],
1216
         [10., 20.]],
1217

1218
        [[ 9., 19.],
1219
         [10., 20.],
1220
         [11., 21.],
1221
         [12., 22.]],
1222

1223
        [[21., 31.],
1224
         [22., 32.],
1225
         [23., 33.],
1226
         [24., 34.]],
1227

1228
        [[ 8., 18.],
1229
         [ 9., 19.],
1230
         [10., 20.],
1231
         [11., 21.]],
1232

1233
        [[14., 24.],
1234
         [15., 25.],
1235
         [16., 26.],
1236
         [17., 27.]],
1237

1238
        [[22., 32.],
1239
         [23., 33.],
1240
         [24., 34.],
1241
         [25., 35.]],
1242

1243
        [[ 2., 12.],
1244
         [ 3., 13.],
1245
         [ 4., 14.],
1246
         [ 5., 15.]],
1247

1248
        [[10., 20.],
1249
         [11., 21.],
1250
         [12., 22.],
1251
         [13., 23.]],
1252

1253
        [[15., 25.],
1254
         [16., 26.],
1255
         [17., 27.],
1256
         [18., 28.]],
1257

1258
        [[ 5., 15.],
1259
         [ 6., 16.],
1260
         [ 7., 17.],
1261
         [ 8., 18.]],
1262

1263
        [[11., 21.],
1264
         [12., 22.],
1265
         [13., 23.],
1266
         [14., 24.]],
1267

1268
        [[16., 26.],
1269
         [17., 27.],
1270
         [18., 28.],
1271
         [19., 29.]],
1272

1273
        [[18., 28.],
1274
         [19., 29.],
1275
         [20., 30.],
1276
         [21., 31.]],
1277

1278
        [[23., 33.],
1279
         [24., 34.],
1280
         [25., 35.],
1281
         [26., 36.]],
1282

1283
        [[ 3., 13.],
1284
         [ 4., 14.],
1285
         [ 5., 15.],
1286
         [ 6., 16.]],
1287

1288
        [[12., 22.],
1289
         [13., 23.],
1290
         [14., 24.],
1291
         [15., 25.]],
1292

1293
        [[17., 27.],
1294
         [18., 28.],
1295
         [19., 29.],
1296
         [20., 30.]],
1297

1298
        [[19., 29.],
1299
         [20., 30.],
1300
         [21., 31.],
1301
         [22., 32.]],
1302

1303
        [[24., 34.],
1304
         [25., 35.],
1305
         [26., 36.],
1306
         [27., 37.]]])
1307

1308

1309
########## torch.float64/torch.int64/size=(2, 3)+(2, 3)+(4,) ##########
1310
# sparse tensor
1311
tensor(ccol_indices=tensor([[[0, 2, 3, 4],
1312
                             [0, 2, 3, 4],
1313
                             [0, 2, 3, 4]],
1314

1315
                            [[0, 1, 3, 4],
1316
                             [0, 2, 3, 4],
1317
                             [0, 1, 3, 4]]]),
1318
       row_indices=tensor([[[0, 1, 0, 1],
1319
                            [0, 1, 0, 0],
1320
                            [0, 1, 1, 1]],
1321

1322
                           [[1, 0, 1, 1],
1323
                            [0, 1, 1, 0],
1324
                            [0, 0, 1, 0]]]),
1325
       values=tensor([[[[1., 2., 3., 4.],
1326
                        [3., 4., 5., 6.],
1327
                        [2., 3., 4., 5.],
1328
                        [4., 5., 6., 7.]],
1329

1330
                       [[1., 2., 3., 4.],
1331
                        [4., 5., 6., 7.],
1332
                        [2., 3., 4., 5.],
1333
                        [3., 4., 5., 6.]],
1334

1335
                       [[1., 2., 3., 4.],
1336
                        [2., 3., 4., 5.],
1337
                        [3., 4., 5., 6.],
1338
                        [4., 5., 6., 7.]]],
1339

1340

1341
                      [[[2., 3., 4., 5.],
1342
                        [1., 2., 3., 4.],
1343
                        [3., 4., 5., 6.],
1344
                        [4., 5., 6., 7.]],
1345

1346
                       [[1., 2., 3., 4.],
1347
                        [3., 4., 5., 6.],
1348
                        [4., 5., 6., 7.],
1349
                        [2., 3., 4., 5.]],
1350

1351
                       [[1., 2., 3., 4.],
1352
                        [2., 3., 4., 5.],
1353
                        [4., 5., 6., 7.],
1354
                        [3., 4., 5., 6.]]]]), size=(2, 3, 2, 3, 4), nnz=4,
1355
       dtype=torch.float64, layout=torch.sparse_csc)
1356
# _ccol_indices
1357
tensor([[[0, 2, 3, 4],
1358
         [0, 2, 3, 4],
1359
         [0, 2, 3, 4]],
1360

1361
        [[0, 1, 3, 4],
1362
         [0, 2, 3, 4],
1363
         [0, 1, 3, 4]]])
1364
# _row_indices
1365
tensor([[[0, 1, 0, 1],
1366
         [0, 1, 0, 0],
1367
         [0, 1, 1, 1]],
1368

1369
        [[1, 0, 1, 1],
1370
         [0, 1, 1, 0],
1371
         [0, 0, 1, 0]]])
1372
# _values
1373
tensor([[[[1., 2., 3., 4.],
1374
          [3., 4., 5., 6.],
1375
          [2., 3., 4., 5.],
1376
          [4., 5., 6., 7.]],
1377

1378
         [[1., 2., 3., 4.],
1379
          [4., 5., 6., 7.],
1380
          [2., 3., 4., 5.],
1381
          [3., 4., 5., 6.]],
1382

1383
         [[1., 2., 3., 4.],
1384
          [2., 3., 4., 5.],
1385
          [3., 4., 5., 6.],
1386
          [4., 5., 6., 7.]]],
1387

1388

1389
        [[[2., 3., 4., 5.],
1390
          [1., 2., 3., 4.],
1391
          [3., 4., 5., 6.],
1392
          [4., 5., 6., 7.]],
1393

1394
         [[1., 2., 3., 4.],
1395
          [3., 4., 5., 6.],
1396
          [4., 5., 6., 7.],
1397
          [2., 3., 4., 5.]],
1398

1399
         [[1., 2., 3., 4.],
1400
          [2., 3., 4., 5.],
1401
          [4., 5., 6., 7.],
1402
          [3., 4., 5., 6.]]]], dtype=torch.float64)
1403

1404
########## torch.float64/torch.int64/size=()+(8, 6)+(4, 2) ##########
1405
# sparse tensor
1406
tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
1407
       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
1408
                           7, 0, 4, 5, 6, 7]),
1409
       values=tensor([[[ 6., 16.],
1410
                       [ 7., 17.],
1411
                       [ 8., 18.],
1412
                       [ 9., 19.]],
1413

1414
                      [[13., 23.],
1415
                       [14., 24.],
1416
                       [15., 25.],
1417
                       [16., 26.]],
1418

1419
                      [[20., 30.],
1420
                       [21., 31.],
1421
                       [22., 32.],
1422
                       [23., 33.]],
1423

1424
                      [[ 1., 11.],
1425
                       [ 2., 12.],
1426
                       [ 3., 13.],
1427
                       [ 4., 14.]],
1428

1429
                      [[ 4., 14.],
1430
                       [ 5., 15.],
1431
                       [ 6., 16.],
1432
                       [ 7., 17.]],
1433

1434
                      [[ 7., 17.],
1435
                       [ 8., 18.],
1436
                       [ 9., 19.],
1437
                       [10., 20.]],
1438

1439
                      [[ 9., 19.],
1440
                       [10., 20.],
1441
                       [11., 21.],
1442
                       [12., 22.]],
1443

1444
                      [[21., 31.],
1445
                       [22., 32.],
1446
                       [23., 33.],
1447
                       [24., 34.]],
1448

1449
                      [[ 8., 18.],
1450
                       [ 9., 19.],
1451
                       [10., 20.],
1452
                       [11., 21.]],
1453

1454
                      [[14., 24.],
1455
                       [15., 25.],
1456
                       [16., 26.],
1457
                       [17., 27.]],
1458

1459
                      [[22., 32.],
1460
                       [23., 33.],
1461
                       [24., 34.],
1462
                       [25., 35.]],
1463

1464
                      [[ 2., 12.],
1465
                       [ 3., 13.],
1466
                       [ 4., 14.],
1467
                       [ 5., 15.]],
1468

1469
                      [[10., 20.],
1470
                       [11., 21.],
1471
                       [12., 22.],
1472
                       [13., 23.]],
1473

1474
                      [[15., 25.],
1475
                       [16., 26.],
1476
                       [17., 27.],
1477
                       [18., 28.]],
1478

1479
                      [[ 5., 15.],
1480
                       [ 6., 16.],
1481
                       [ 7., 17.],
1482
                       [ 8., 18.]],
1483

1484
                      [[11., 21.],
1485
                       [12., 22.],
1486
                       [13., 23.],
1487
                       [14., 24.]],
1488

1489
                      [[16., 26.],
1490
                       [17., 27.],
1491
                       [18., 28.],
1492
                       [19., 29.]],
1493

1494
                      [[18., 28.],
1495
                       [19., 29.],
1496
                       [20., 30.],
1497
                       [21., 31.]],
1498

1499
                      [[23., 33.],
1500
                       [24., 34.],
1501
                       [25., 35.],
1502
                       [26., 36.]],
1503

1504
                      [[ 3., 13.],
1505
                       [ 4., 14.],
1506
                       [ 5., 15.],
1507
                       [ 6., 16.]],
1508

1509
                      [[12., 22.],
1510
                       [13., 23.],
1511
                       [14., 24.],
1512
                       [15., 25.]],
1513

1514
                      [[17., 27.],
1515
                       [18., 28.],
1516
                       [19., 29.],
1517
                       [20., 30.]],
1518

1519
                      [[19., 29.],
1520
                       [20., 30.],
1521
                       [21., 31.],
1522
                       [22., 32.]],
1523

1524
                      [[24., 34.],
1525
                       [25., 35.],
1526
                       [26., 36.],
1527
                       [27., 37.]]]), size=(8, 6, 4, 2), nnz=24,
1528
       dtype=torch.float64, layout=torch.sparse_csc)
1529
# _ccol_indices
1530
tensor([ 0,  3,  8, 11, 14, 19, 24])
1531
# _row_indices
1532
tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7])
1533
# _values
1534
tensor([[[ 6., 16.],
1535
         [ 7., 17.],
1536
         [ 8., 18.],
1537
         [ 9., 19.]],
1538

1539
        [[13., 23.],
1540
         [14., 24.],
1541
         [15., 25.],
1542
         [16., 26.]],
1543

1544
        [[20., 30.],
1545
         [21., 31.],
1546
         [22., 32.],
1547
         [23., 33.]],
1548

1549
        [[ 1., 11.],
1550
         [ 2., 12.],
1551
         [ 3., 13.],
1552
         [ 4., 14.]],
1553

1554
        [[ 4., 14.],
1555
         [ 5., 15.],
1556
         [ 6., 16.],
1557
         [ 7., 17.]],
1558

1559
        [[ 7., 17.],
1560
         [ 8., 18.],
1561
         [ 9., 19.],
1562
         [10., 20.]],
1563

1564
        [[ 9., 19.],
1565
         [10., 20.],
1566
         [11., 21.],
1567
         [12., 22.]],
1568

1569
        [[21., 31.],
1570
         [22., 32.],
1571
         [23., 33.],
1572
         [24., 34.]],
1573

1574
        [[ 8., 18.],
1575
         [ 9., 19.],
1576
         [10., 20.],
1577
         [11., 21.]],
1578

1579
        [[14., 24.],
1580
         [15., 25.],
1581
         [16., 26.],
1582
         [17., 27.]],
1583

1584
        [[22., 32.],
1585
         [23., 33.],
1586
         [24., 34.],
1587
         [25., 35.]],
1588

1589
        [[ 2., 12.],
1590
         [ 3., 13.],
1591
         [ 4., 14.],
1592
         [ 5., 15.]],
1593

1594
        [[10., 20.],
1595
         [11., 21.],
1596
         [12., 22.],
1597
         [13., 23.]],
1598

1599
        [[15., 25.],
1600
         [16., 26.],
1601
         [17., 27.],
1602
         [18., 28.]],
1603

1604
        [[ 5., 15.],
1605
         [ 6., 16.],
1606
         [ 7., 17.],
1607
         [ 8., 18.]],
1608

1609
        [[11., 21.],
1610
         [12., 22.],
1611
         [13., 23.],
1612
         [14., 24.]],
1613

1614
        [[16., 26.],
1615
         [17., 27.],
1616
         [18., 28.],
1617
         [19., 29.]],
1618

1619
        [[18., 28.],
1620
         [19., 29.],
1621
         [20., 30.],
1622
         [21., 31.]],
1623

1624
        [[23., 33.],
1625
         [24., 34.],
1626
         [25., 35.],
1627
         [26., 36.]],
1628

1629
        [[ 3., 13.],
1630
         [ 4., 14.],
1631
         [ 5., 15.],
1632
         [ 6., 16.]],
1633

1634
        [[12., 22.],
1635
         [13., 23.],
1636
         [14., 24.],
1637
         [15., 25.]],
1638

1639
        [[17., 27.],
1640
         [18., 28.],
1641
         [19., 29.],
1642
         [20., 30.]],
1643

1644
        [[19., 29.],
1645
         [20., 30.],
1646
         [21., 31.],
1647
         [22., 32.]],
1648

1649
        [[24., 34.],
1650
         [25., 35.],
1651
         [26., 36.],
1652
         [27., 37.]]], dtype=torch.float64)
1653

1654