PyTorch 中 Tensor 的 `reshape`、`view`、`transpose`、`permute` 函数的区别

PyTorch 中 Tensor 的 `reshape`、`view`、`transpose`、`permute` 的区别

一、 `reshape`

1.1 简介

torch.reshape 用于改变张量的形状。新张量与原张量共享数据内存，但形状不同。

1.2 语法

torch.reshape(input, shape)

1.3 参数

input：待调整形状的张量。
shape：一个表示新形状的元组或列表。新形状的元素乘积必须等于原始张量的元素总数。

1.4 示例

import torch

x = torch.arange(8)
x_reshaped = torch.reshape(x, (2, 4))
print(x_reshaped)

输出：

tensor([[0, 1, 2, 3],
        [4, 5, 6, 7]])

二、 `view`

2.1 简介

torch.Tensor.view 也用于调整张量的形状，与 reshape 类似，新张量与原张量共享数据内存,但要求张量是连续（contiguous）的。

2.2 语法

tensor.view(*shape)

2.3 参数

tensor：待调整形状的张量。
*shape：一个表示新形状的整数序列。

2.4 示例

import torch

x = torch.arange(8)
x_viewed = x.view(2, 4)
print(x_viewed)

输出：

tensor([[0, 1, 2, 3],
        [4, 5, 6, 7]])

三、 `transpose`

3.1 简介

torch.transpose 用于交换张量的两个维度，新张量与原张量共享数据内存。

3.2 语法

torch.transpose(input, dim0, dim1)

3.3 参数

input：待交换维度的张量。
dim0：第一个要交换的维度。
dim1：第二个要交换的维度。

3.4 示例

x = torch.tensor([[1, 2, 3], [4, 5, 6]])
x_transposed = torch.transpose(x, 0, 1)
print(x_transposed)

输出：

tensor([[1, 4],
        [2, 5],
        [3, 6]])

四、 `permute`

4.1 简介

torch.permute 用于根据指定顺序重新排列张量的所有维度，新张量与原张量共享数据内存。

4.2 语法

tensor.permute(*dims)

4.3 参数

tensor：待调整维度的张量。
*dims：一个表示新维度顺序的整数序列。

4.4 示例

x = torch.randn(2, 3, 5)
x_permuted = x.permute(2, 0, 1)
print(x_permuted.shape)

输出：

torch.Size([5, 2, 3])

五、对比总结

reshape：用于改变张量形状，可以处理非连续张量。
view：用于改变张量形状，但只能用于连续张量。对于非连续张量，需要先调用 .contiguous() 方法。
transpose：用于交换两个维度。
permute：用于根据指定顺序重新排列所有维度。

上述4个函数均共享内存，因此对上述函数的返回值进行修改原数据会受到影响，我们可以用下述代码来验证

代码：

import torch

data = torch.tensor([1, 2, 3, 4, 5, 6, 7, 8], dtype=torch.float32)
data1 = torch.tensor([9, 10, 11, 12, 13, 14, 15, 16], dtype=torch.float32)
data2 = torch.tensor([[1, 2], [3, 4]], dtype=torch.float32)
data3 = torch.tensor([[5, 6], [7, 8]], dtype=torch.float32)

view = data.view((2, 4))
reshape = data1.reshape((2, 4))
transpose = data2.transpose(1, 0)
permute = data3.permute(1, 0)

print('修改前')
print(data)
print(data1)
print(transpose)
print(permute)

view[0][0] = 100
reshape[1][1] = 100
transpose[0][0] = 100
permute[1][1] = 100

print('修改后')
print(data)
print(data1)
print(data2)
print(data3)

输出：

修改前
tensor([1., 2., 3., 4., 5., 6., 7., 8.])
tensor([ 9., 10., 11., 12., 13., 14., 15., 16.])
tensor([[1., 3.],
        [2., 4.]])
tensor([[5., 7.],
        [6., 8.]])
修改后
tensor([100.,   2.,   3.,   4.,   5.,   6.,   7.,   8.])
tensor([  9.,  10.,  11.,  12.,  13., 100.,  15.,  16.])
tensor([[100.,   2.],
        [  3.,   4.]])
tensor([[  5.,   6.],
        [  7., 100.]])