Làm thế nào để Lstm tính toán số lượng các tham số?
Làm thế nào để Lstm tính toán số lượng các tham số?

Video: Làm thế nào để Lstm tính toán số lượng các tham số?

Video: Làm thế nào để Lstm tính toán số lượng các tham số?
Video: Mạng Deep Bidirectional và tính toán số lượng tham số trong mạng RNN 2024, Tháng mười một
Anonim

Vì vậy, theo giá trị của bạn. Đưa nó vào công thức sẽ cho: -> (n = 256, m = 4096), tổng số lượng tham số là 4 * ((256 * 256) + (256 * 4096) + (256)) = 4 * (1114368) = 4457472. con số trọng lượng Là 28 = 16 (num_units * num_units) cho các kết nối lặp lại + 12 (input_dim * num_units) cho đầu vào.

Cũng hỏi, làm thế nào để bạn tìm thấy số lượng các tham số?

Đến tính toán người học được thông số ở đây, tất cả những gì chúng ta phải làm chỉ là nhân hình dạng với chiều rộng m, chiều cao n và tính cho tất cả các bộ lọc k như vậy. Đừng quên thuật ngữ thiên vị cho mỗi bộ lọc. Số lượng thông số trong lớp CONV sẽ là: ((m * n) +1) * k), được thêm 1 vì thuật ngữ thiên vị cho mỗi bộ lọc.

Tương tự như vậy, Lstm có bao nhiêu đơn vị ẩn? Một LSTM mạng. Mạng có năm đầu vào các đơn vị , Một lớp ẩn bao gồm hai LSTM khối bộ nhớ và ba đầu ra các đơn vị . Mỗi khối bộ nhớ có bốn đầu vào nhưng chỉ có một đầu ra.

Sau đó, người ta cũng có thể hỏi, làm thế nào để bạn tìm thấy số lượng tham số trong RNN?

1 Câu trả lời. Các thực thể W, U và V được chia sẻ theo tất cả các bước của RNN và đây là những thứ duy nhất thông số trong mô hình được mô tả trong hình. Kể từ đây số lượng thông số được học trong khi đào tạo = dim (W) + dim (V) + dim (U). Dựa trên dữ liệu trong câu hỏi này = n2 + kn + nm.

Lstm có bao nhiêu lớp?

Nói chung, 2 lớp đã cho thấy là đủ để phát hiện các tính năng phức tạp hơn. Hơn lớp có thể tốt hơn nhưng cũng khó đào tạo hơn. Theo nguyên tắc chung - 1 ẩn lớp làm việc với các vấn đề đơn giản, như thế này và hai là đủ để tìm các tính năng phức tạp hợp lý.

Đề xuất: