Ứng dụng mạng DenseNet vào phân loại hình ảnh

Nội dung

1. Bài toán

Xây dựng một hệ thống nhận diện và phân loại hình ảnh dựa trên mạng neural DenseNet. Hệ thống này sẽ phân tích bức ảnh đầu vào và xác định đối tượng chính xuất hiện trong ảnh.

2. Thực hiện

2.1. Cấu trúc chương trình

Với mục đích dễ quản lý source code, chúng ta có thể đặt chương trình như sau:

root@aicandy:/aicandy/projects/AIcandy_RetinaNet_ObjectDetection_mqeprgnq# tree
.
├── aicandy_output_ntroyvui
│   └── aicandy_pretrain_resnet_rvkndbxy.pth
├── aicandy_retinanet_test_cliaskyp.py
├── aicandy_retinanet_train_rpnekclt.py
├── aicandy_utils_src_obilenxc
│   ├── anchors.py
│   ├── arial.ttf
│   ├── evaluate.py
│   ├── dataloader.py
│   ├── losses.py
│   └── model.py
└── image_test.jpg

Trong đó:

– File aicandy_model_densenet_ekktouop.py chứa model

– File aicandy_densenet_train_sgxbapee.py chứa chương trình train

– File aicandy_densenet_test_beyugdam.py chứa chương trình để test.

– File aicandy_densenet_convert_onnx_dvicqkqc.py chứa chương trình chuyển đổi từ model pytorch sang model onnx phục vụ triển khai model trên nhiều thiết bị khác nhau.

2.2. Dữ liệu

Dữ liệu phục vụ cho việc train gồm các ảnh đã được phân loại trước và được lưu trong các folder theo đối tượng, tên của folder là tên của đối tượng. Ví dụ trong bài này chúng ta có folder ‘dogs’ để chứa tất cả các ảnh có hình ảnh ‘dog’ và folder ‘cats’ để chứa tất cả các hình ảnh có ‘cat’.

Bộ dataset có cấu trúc như sau:

root@aicandy:/aicandy/datasets/aicandy_motorcycle_humukdiy# ls
annotations train2017 val2017
root@aicandy:/aicandy/datasets/aicandy_motorcycle_humukdiy# ls annotations/
instances_train2017.json instances_val2017.json
root@aicandy:/aicandy/datasets/aicandy_motorcycle_humukdiy#
root@aicandy:/aicandy/datasets/aicandy_motorcycle_humukdiy# cd train2017/
root@aicandy:/aicandy/datasets/aicandy_motorcycle_humukdiy/train2017# tree | head -n 6
.
├── 000000000073.jpg
├── 000000000086.jpg
├── 000000000529.jpg
├── 000000000629.jpg
├── 000000000656.jpg
root@aicandy:/aicandy/datasets/aicandy_motorcycle_humukdiy/train2017# cd ../val2017/
root@aicandy:/aicandy/datasets/aicandy_motorcycle_humukdiy/val2017# tree | head -n 6
.
├── 000000007386.jpg
├── 000000007816.jpg
├── 000000008211.jpg
├── 000000011149.jpg
├── 000000011511.jpg
root@aicandy:/aicandy/datasets/aicandy_motorcycle_humukdiy/val2017#

Bộ dữ liệu sử dụng trong bài gồm bộ aicandy_cats_mkemktch và bộ aicandy_dogs_lpmdvpox được download miễn phí tại đây

2.3. Build model

Xây dựng mô hình gồm các thành phần chính:

DenseBlock Class

DenseBlock là khối chính của mô hình DenseNet. Mỗi khối DenseBlock chứa một số lớp tích chập, và đầu ra của mỗi lớp này được nối với đầu vào của tất cả các lớp tiếp theo trong khối.

__init__ method:
- num_layers: Số lượng lớp trong DenseBlock.
- in_channels: Số kênh đầu vào.
- growth_rate: Số lượng kênh mà mỗi lớp sẽ thêm vào đầu ra.
- Tạo ra một danh sách các lớp trong DenseBlock bằng cách sử dụng phương thức _make_layer.
_make_layer method:
- Tạo ra một lớp bao gồm BatchNorm2d, ReLU, và Conv2d với kích thước kernel là 3×3.
forward method:
- Áp dụng từng lớp trong self.layers lên x và kết hợp đầu ra mới với x thông qua torch.cat.

TransitionLayer Class

TransitionLayer được sử dụng để giảm kích thước không gian (spatial size) của đầu vào giữa các DenseBlock, đồng thời giảm số lượng kênh đầu ra.

__init__ method:
- Tạo ra một lớp bao gồm BatchNorm2d, ReLU, Conv2d với kernel 1×1, và AvgPool2d.
forward method:
- Đơn giản là trả về kết quả sau khi áp dụng toàn bộ các lớp trong self.layer lên x.

DenseNet Class

Đây là lớp chính mô tả cấu trúc của mạng DenseNet.

__init__ method:
- num_blocks: Số lượng các khối DenseBlock.
- growth_rate: Tốc độ tăng trưởng của số lượng kênh sau mỗi lớp.
- num_classes: Số lượng lớp đầu ra (tương ứng với số lượng các lớp phân loại).
- Khởi tạo conv1 để xử lý đầu vào ban đầu với kernel 3×3.
- Tạo danh sách các khối DenseBlock và TransitionLayer, với số lượng kênh tăng dần sau mỗi DenseBlock và giảm đi sau mỗi TransitionLayer.
- Cuối cùng, tạo một lớp BatchNorm2d và một lớp fully-connected (fc) cho đầu ra cuối cùng.
forward method:
- Đầu tiên, áp dụng conv1 lên x.
- Sau đó, áp dụng lần lượt các DenseBlock và TransitionLayer.
- Áp dụng BatchNorm2d và ReLU sau cùng, rồi sử dụng adaptive_avg_pool2d để thu gọn đầu ra về kích thước 1×1.
- Cuối cùng, đầu ra được chuyển qua lớp fully-connected (fc) để phân loại.

2.4. Chương trình train

Bước 1: import một số thư viện để xử lý các tác vụ liên quan tới tệp và đường dẫn (os, sys), thư viện xây dựng và tối ưu hóa mô hình (torch, torch.optim, torch.nn), các thư viện xử lý hình ảnh (datasets, transform, train_test_split, Dataloader).

import torch
import torch.backends.cudnn as cudnn
import torch.nn as nn
import torch.optim as optim
from torch.utils.data import DataLoader
from sklearn.model_selection import train_test_split
from torch.utils.data import Subset
from torchvision import datasets, transforms
from aicandy_model_src_bpvbytql.aicandy_model_densenet_ekktouop import DenseNet
import os
import json

Bước 2: lựa chọn sử dụng CPU hay GPU để train, chúng ta sử dụng câu lệnh:

device = torch.device(“cuda” if torch.cuda.is_available() else “cpu”)

Bước 3: tăng cường dữ liệu bằng sử dụng transforms với:

– transforms.Resize((160, 160)): Thay đổi kích thước hình ảnh thành kích thước cố định (160×160) pixel. Đảm bảo rằng tất cả các hình ảnh đầu vào đều có cùng kích thước, phù hợp với yêu cầu của mạng nơ-ron.

– transforms.RandomHorizontalFlip(): Lật ngẫu nhiên hình ảnh theo chiều ngang. Tăng cường dữ liệu bằng cách tạo ra các phiên bản lật của hình ảnh, giúp mô hình học được các đặc điểm của hình ảnh bất kể hướng của chúng.

– transforms.RandomRotation(10): Xoay ngẫu nhiên hình ảnh một góc từ -10 đến +10 độ. Giúp mô hình trở nên mạnh mẽ hơn trước các biến thể xoay của đối tượng trong hình ảnh.

– transforms.ColorJitter(brightness=0.2, contrast=0.2, saturation=0.2, hue=0.2): Điều chỉnh ngẫu nhiên độ sáng, độ tương phản, độ bão hòa và tông màu của hình ảnh. Tăng cường dữ liệu bằng cách tạo ra các biến thể màu sắc khác nhau của hình ảnh, giúp mô hình học được các đặc điểm hình ảnh dưới các điều kiện ánh sáng và màu sắc khác nhau.

– transforms.ToTensor(): Chuyển đổi hình ảnh từ dạng PIL hoặc NumPy array thành một tensor PyTorch. Tensor là định dạng dữ liệu mà PyTorch yêu cầu để xử lý dữ liệu trong quá trình huấn luyện.

– transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]): Chuẩn hóa các giá trị pixel của hình ảnh. Đưa các giá trị pixel về phạm vi có giá trị trung bình là 0 và độ lệch chuẩn là 1 cho từng kênh màu (RGB). Điều này giúp mô hình huấn luyện hiệu quả hơn vì các giá trị đầu vào được chuẩn hóa.

Bước 4: Load data và phân chia thành 2 tập train và val để đánh giá model

dataset = datasets.ImageFolder(root=train_dir, transform=transform)

datasets.ImageFolder: Đây là một tiện ích của PyTorch để tải ảnh từ một thư mục. Thư mục này cần được tổ chức theo cấu trúc, mỗi thư mục con đại diện cho một lớp (class) khác nhau.
root=train_dir: train_dir là đường dẫn tới thư mục chứa các ảnh huấn luyện.
transform=transform: transform là các phép biến đổi (ví dụ: thay đổi kích thước, chuẩn hóa, tăng cường dữ liệu) được áp dụng lên các ảnh khi chúng được tải lên.

train_idx, val_idx = train_test_split(list(range(len(dataset))), test_size=0.2, random_state=42)

train_test_split: Hàm này từ thư viện sklearn.model_selection chia dữ liệu thành hai phần: huấn luyện và kiểm tra (validation).
list(range(len(dataset))): Tạo một danh sách các chỉ số tương ứng với tất cả các ảnh trong tập dữ liệu.
test_size=0.2: 20% dữ liệu được dành cho tập kiểm tra.
random_state=42: Seed cho bộ sinh số ngẫu nhiên để đảm bảo việc chia dữ liệu có thể tái lập.

train_dataset = Subset(dataset, train_idx)
val_dataset = Subset(dataset, val_idx)

Subset: Một tiện ích của PyTorch để tạo tập con từ tập dữ liệu gốc dựa trên các chỉ số đã chỉ định.
train_dataset: Chứa dữ liệu huấn luyện.
val_dataset: Chứa dữ liệu kiểm tra.

train_loader = DataLoader(train_dataset, batch_size=batch_size, shuffle=True, num_workers=4)
val_loader = DataLoader(val_dataset, batch_size=batch_size, shuffle=False, num_workers=4)

DataLoader: Một tiện ích của PyTorch để tải dữ liệu theo từng batch, cung cấp một iterator (bộ lặp) qua tập dữ liệu.
train_loader: Dùng để tải dữ liệu huấn luyện theo từng batch.
- batch_size=batch_size: Xác định số lượng mẫu trong mỗi batch.
- shuffle=True: Trộn ngẫu nhiên dữ liệu vào đầu mỗi epoch để ngăn mô hình học theo thứ tự của dữ liệu.
val_loader: Dùng để tải dữ liệu kiểm tra theo từng batch.
- shuffle=False: Không trộn dữ liệu kiểm tra, giữ nguyên thứ tự của các mẫu.
num_workers=4: Xác định số lượng luồng con (subprocesses) để tải dữ liệu. Số lượng luồng con cao hơn có thể tăng tốc độ tải dữ liệu.

Bước 5: Lưu thông tin các đối tượng có trong dataset

with open(‘label.txt’, ‘w’) as f:
for idx, class_name in enumerate(dataset.classes):
f.write(f'{idx}: {class_name}\n’)

Chương trình sẽ lưu id và tên của đối tượng vào file label.txt.

Bước 6: Tạo model, tối ưu và tạo hàm mất mát

model = DenseNet(num_blocks=[6, 12, 24, 16], growth_rate=12, num_classes=num_classes).to(device)

Khởi tạo mô hình DenseNet với các tham số cụ thể và chuyển nó sang thiết bị (GPU hoặc CPU) để thực thi.

num_blocks=[6, 12, 24, 16]:

Đây là danh sách xác định số lượng lớp trong mỗi DenseBlock. Mô hình sẽ có 4 DenseBlock:

- Khối đầu tiên có 6 lớp.
- Khối thứ hai có 12 lớp.
- Khối thứ ba có 24 lớp.
- Khối thứ tư có 16 lớp

growth_rate=12:

growth_rate xác định số lượng kênh mới được thêm vào sau mỗi lớp trong một DenseBlock. Ở đây, mỗi lớp trong DenseBlock sẽ thêm 12 kênh vào đầu ra.

num_classes=num_classes:

Đây là số lượng lớp phân loại của mô hình, là số lượng các nhãn phân loại.

criterion = nn.CrossEntropyLoss():

Hàm mất mát này đo lường độ sai lệch giữa phân phối xác suất dự đoán của mô hình và phân phối nhãn thật. Giá trị mất mát này càng nhỏ thì mô hình dự đoán càng chính xác.

optimizer = optim.Adam(model.parameters(), lr=0.001):

optim.Adam:
- Adam là một thuật toán tối ưu hóa rất phổ biến trong huấn luyện mô hình học sâu, kết hợp giữa phương pháp tối ưu hóa theo momentum và phương pháp tối ưu hóa theo hàm điều chỉnh AdaGrad.
- Adam tự động điều chỉnh tốc độ học (learning rate) cho từng tham số dựa trên các biến động trong quá trình huấn luyện, giúp tăng tốc độ hội tụ và thường cho kết quả tốt hơn so với các bộ tối ưu hóa khác như SGD.
model.parameters():
- Tham số này lấy tất cả các tham số có thể huấn luyện được của mô hình DenseNet mà bạn đã tạo trước đó. Bộ tối ưu hóa sẽ cập nhật những tham số này trong quá trình huấn luyện.
lr=0.001:
- lr là tốc độ học (learning rate), một tham số quan trọng quyết định mức độ thay đổi của các tham số mô hình sau mỗi bước cập nhật. Ở đây, tốc độ học được đặt là 0.001, một giá trị thường dùng để khởi tạo trong nhiều bài toán học sâu.

optimizer.zero_grad():

Trước khi thực hiện tính toán gradients, cần đặt lại các gradients cũ (nếu có) bằng zero_grad(). Điều này đảm bảo rằng gradients không bị cộng dồn từ các vòng lặp trước đó.

loss = criterion(outputs, labels):

Hàm mất mát (criterion) so sánh đầu ra dự đoán (outputs) với nhãn thực tế (labels) và tính toán giá trị mất mát (loss), biểu thị độ sai lệch của mô hình.

loss.backward():

backward() tính toán gradients của hàm mất mát đối với các tham số của mô hình. Đây là bước đầu tiên trong quá trình cập nhật các tham số dựa trên gradients.

Bước 7: Dự đoán nhãn và tính toán độ chính xác

_, preds = torch.max(outputs, 1):

torch.max(outputs, 1) lấy giá trị lớn nhất (có xác suất cao nhất) và chỉ số tương ứng từ outputs dọc theo chiều thứ nhất (class dimension). preds là dự đoán của mô hình về lớp đầu ra.

running_corrects += torch.sum(preds == labels.data):

torch.sum(preds == labels.data) đếm số lượng dự đoán đúng trong batch hiện tại bằng cách so sánh preds với nhãn thực tế (labels.data).

train_acc = 100 * running_corrects.double() / len(train_dataset):

running_corrects.double() chuyển running_corrects sang dạng số thực để tính toán chính xác.

train_acc là tỷ lệ phần trăm các dự đoán đúng trên toàn bộ tập dữ liệu huấn luyện, tính theo công thức: (số dự đoán đúng / tổng số mẫu) * 100.

Bước 8: Hiện thị thông tin kết quả train và lưu model

val_acc = 100 * val_correct / val_total

val_loss /= len(val_loader)

print(f’Epoch [{epoch+1}/{num_epochs}], Train Loss: {train_loss:.4f}, Train Accuracy: {train_acc:.2f}%, Val Loss: {val_loss:.4f}, Val Accuracy: {val_acc:.2f}%’)

val_acc: Tính toán và lưu trữ độ chính xác của mô hình trên tập kiểm tra.
val_loss: Tính toán và lưu trữ mất mát trung bình của mô hình trên tập kiểm tra.
print(…): Hiển thị kết quả của epoch bao gồm: mất mát và độ chính xác trên cả tập huấn luyện và tập kiểm tra. Điều này giúp bạn theo dõi quá trình huấn luyện và kiểm tra mô hình, xác định xem mô hình có cải thiện hay không qua các epoch.

if val_acc > best_acc:
best_acc = val_acc
torch.save(model.state_dict(), model_path)
print(f’Saved best model with accuracy: {best_acc:.2f}%’)

Sau mỗi epoch train, kiểm tra tính chính xác, nếu độ chính xác tốt lên thì sẽ lưu model với bộ trọng số này.

2.5. Chương trình test

Bước 1: Cần import một số thư viện và cấu trúc model

import torch
import torch.nn.functional as F
from torchvision import transforms
from PIL import Image
from aicandy_model_src_bpvbytql.aicandy_model_densenet_ekktouop import DenseNet
import json
import os

Bước 2: Xác định tên đối tượng có trong model

with open(label_path, ‘r’) as f:
labels = {int(line.split(“: “)[0]): line.split(“: “)[1].strip() for line in f}

Đoạn trên sẽ trả về cho labels một từ điển với cặp key-value, trong đó:

key là ID của nhãn (dạng số nguyên).
value là tên của nhãn (dạng chuỗi).

Bước 3: Load model

model = DenseNet(num_blocks=[6, 12, 24, 16], growth_rate=12, num_classes=num_classes)
model.load_state_dict(torch.load(model_path, map_location=device))
model.to(device)
model.eval()

Tạo cấu trúc model khi test giống như cấu trúc model khi train.

model.load_state_dict(torch.load(model_path, map_location=device))

Tải trọng số của mô hình từ tệp model_path. Trọng số này là kết quả của quá trình huấn luyện trước đó.
map_location=device: Đảm bảo rằng trọng số được tải lên thiết bị (device) cụ thể (CPU hoặc GPU), giúp tránh lỗi khi sử dụng mô hình trên một thiết bị khác so với thiết bị đã huấn luyện.

model.eval()

Chuyển mô hình sang chế độ đánh giá (evaluation mode). Trong chế độ này, các lớp như Dropout và BatchNorm sẽ hoạt động khác so với khi ở chế độ huấn luyện.

transform = transforms.Compose([
transforms.Resize((160, 160)),
transforms.ToTensor(),
transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])
])

Đoạn mã này định nghĩa một chuỗi các bước tiền xử lý (preprocessing) được áp dụng cho các hình ảnh trước khi chúng được đưa vào mô hình học sâu. Các bước tiền xử lý này giúp chuẩn hóa dữ liệu đầu vào và chuyển đổi hình ảnh sang định dạng phù hợp cho mô hình. Trong đó:

Normalize là bước chuẩn hóa từng kênh màu của hình ảnh (R, G, B) bằng cách trừ đi giá trị trung bình (mean) và chia cho độ lệch chuẩn (std).
[0.485, 0.456, 0.406]: Đây là các giá trị trung bình của các kênh màu (R, G, B) dựa trên bộ dữ liệu ImageNet, một bộ dữ liệu lớn phổ biến được dùng để huấn luyện các mô hình học sâu.
[0.229, 0.224, 0.225]: Đây là các giá trị độ lệch chuẩn tương ứng của các kênh màu (R, G, B), cũng dựa trên bộ dữ liệu ImageNet.
Chuẩn hóa này giúp đảm bảo rằng dữ liệu đầu vào có phân phối ổn định, giúp mô hình học tốt hơn và tăng tốc độ hội tụ.

Bước 4: Dự đoán kết quả

with torch.no_grad():
outputs = model(image)
_, predicted = torch.max(outputs, 1)
with torch.no_grad():

Đây là một ngữ cảnh (context) trong PyTorch, trong đó các phép tính bên trong sẽ không yêu cầu lưu trữ thông tin về gradient.
Điều này giúp tiết kiệm bộ nhớ và tăng tốc độ tính toán khi thực hiện dự đoán, vì không cần tính toán và lưu trữ gradient như khi huấn luyện mô hình.
Chế độ này thường được sử dụng trong quá trình dự đoán (inference) hoặc đánh giá mô hình.

torch.max(outputs, 1):

Hàm torch.max tìm giá trị lớn nhất trong tensor outputs dọc theo chiều thứ nhất (dim=1).
Trong ngữ cảnh phân loại, mỗi giá trị trong outputs đại diện cho xác suất hoặc độ tin cậy rằng ảnh thuộc về một lớp cụ thể.
Kết quả trả về là một tuple với hai phần tử:
- Phần tử đầu tiên (_) là giá trị lớn nhất (có thể bỏ qua ở đây).
- Phần tử thứ hai (predicted) là chỉ số (index) của giá trị lớn nhất, tương ứng với lớp mà mô hình dự đoán.

predicted_class = predicted.item()

predicted.item():

Phương thức item() chuyển đổi một tensor có kích thước 1 (một giá trị duy nhất) thành một giá trị số Python thông thường (integer).

2.6. Chương trình chuyển đổi model

Bước 1: Load model

model = DenseNet(num_blocks=[6, 12, 24, 16], growth_rate=12, num_classes=num_classes)
model.load_state_dict(torch.load(model_path, map_location=device))
model.to(device)
model.eval()

Tạo cấu trúc model khi test giống như cấu trúc model khi train.

model.load_state_dict(torch.load(model_path, map_location=device))

Tải trọng số của mô hình từ tệp model_path. Trọng số này là kết quả của quá trình huấn luyện trước đó.
map_location=device: Đảm bảo rằng trọng số được tải lên thiết bị (device) cụ thể (CPU hoặc GPU), giúp tránh lỗi khi sử dụng mô hình trên một thiết bị khác so với thiết bị đã huấn luyện.

model.eval()

Bước 2: Convert model

dummy_input = torch.randn(1, 3, 160, 160, device=device):

torch.randn tạo ra một tensor với các giá trị ngẫu nhiên tuân theo phân phối chuẩn (mean=0, std=1). Kích thước của tensor này là (1, 3, 160, 160)

torch.onnx.export(model, dummy_input, output_path, verbose=True, input_names=[‘input’], output_names=[‘output’]):

torch.onnx.export:
- Đây là hàm dùng để xuất mô hình PyTorch sang định dạng ONNX.
dummy_input:
- Đây là đầu vào giả lập mà mô hình sẽ sử dụng để theo dõi các phép toán và xây dựng biểu đồ tính toán trong định dạng ONNX.
output_path:
- Đường dẫn đến file mà mô hình ONNX sẽ được lưu (file có phần mở rộng là .onnx).
verbose=True:
- Tham số này được đặt để in ra thông tin chi tiết về quá trình chuyển đổi, bao gồm các phép toán và cấu trúc biểu đồ tính toán.
input_names=[‘input’]:
- Tên của các đầu vào trong mô hình ONNX. Ở đây, đầu vào của mô hình sẽ được đặt tên là “input”.
output_names=[‘output’]:
- Tên của các đầu ra trong mô hình ONNX. Ở đây, đầu ra của mô hình sẽ được đặt tên là “output”.

3. Kết quả train

Thực hiện train với epoch 100, độ chính xác là 92.87%, đạt được ở epoch 92. Đây là chương trình mẫu, để tăng độ chính xác, chúng ta cũng cần điều chỉnh thêm một số tham số, tăng epoch cũng như tăng số lượng mẫu. Dưới đây là log train ở 50 epoch cuối:

Epoch [48/100], Train Loss: 0.3398, Train Accuracy: 85.16%, Val Loss: 0.3798, Val Accuracy: 84.86%
Saved best model with accuracy: 84.86%
Epoch [49/100], Train Loss: 0.3313, Train Accuracy: 85.50%, Val Loss: 0.4189, Val Accuracy: 81.35%
Epoch [50/100], Train Loss: 0.3485, Train Accuracy: 84.34%, Val Loss: 0.4067, Val Accuracy: 82.73%
Epoch [51/100], Train Loss: 0.3241, Train Accuracy: 86.03%, Val Loss: 0.3995, Val Accuracy: 81.60%
Epoch [52/100], Train Loss: 0.3441, Train Accuracy: 84.59%, Val Loss: 0.3865, Val Accuracy: 81.48%
Epoch [53/100], Train Loss: 0.3089, Train Accuracy: 86.88%, Val Loss: 0.3566, Val Accuracy: 84.48%
Epoch [54/100], Train Loss: 0.3100, Train Accuracy: 87.10%, Val Loss: 0.3357, Val Accuracy: 85.23%
Saved best model with accuracy: 85.23%
Epoch [55/100], Train Loss: 0.2958, Train Accuracy: 87.47%, Val Loss: 0.3914, Val Accuracy: 83.73%
Epoch [56/100], Train Loss: 0.2899, Train Accuracy: 87.25%, Val Loss: 0.3039, Val Accuracy: 87.61%
Saved best model with accuracy: 87.61%
Epoch [57/100], Train Loss: 0.2945, Train Accuracy: 87.25%, Val Loss: 0.3562, Val Accuracy: 85.86%
Epoch [58/100], Train Loss: 0.2781, Train Accuracy: 88.66%, Val Loss: 0.3910, Val Accuracy: 83.85%
Epoch [59/100], Train Loss: 0.2809, Train Accuracy: 87.91%, Val Loss: 0.4509, Val Accuracy: 82.98%
Epoch [60/100], Train Loss: 0.2493, Train Accuracy: 90.07%, Val Loss: 0.3100, Val Accuracy: 86.61%
Epoch [61/100], Train Loss: 0.2447, Train Accuracy: 90.17%, Val Loss: 0.2972, Val Accuracy: 88.11%
Saved best model with accuracy: 88.11%
Epoch [62/100], Train Loss: 0.2283, Train Accuracy: 91.26%, Val Loss: 0.3010, Val Accuracy: 87.36%
Epoch [63/100], Train Loss: 0.2285, Train Accuracy: 90.95%, Val Loss: 0.4160, Val Accuracy: 84.61%
Epoch [64/100], Train Loss: 0.2343, Train Accuracy: 90.29%, Val Loss: 0.2842, Val Accuracy: 87.11%
Epoch [65/100], Train Loss: 0.2482, Train Accuracy: 89.41%, Val Loss: 0.3215, Val Accuracy: 87.23%
Epoch [66/100], Train Loss: 0.2161, Train Accuracy: 90.82%, Val Loss: 0.3102, Val Accuracy: 86.73%
Epoch [67/100], Train Loss: 0.2204, Train Accuracy: 90.89%, Val Loss: 0.2956, Val Accuracy: 87.48%
Epoch [68/100], Train Loss: 0.2159, Train Accuracy: 91.48%, Val Loss: 0.2784, Val Accuracy: 89.49%
Saved best model with accuracy: 89.49%
Epoch [69/100], Train Loss: 0.2016, Train Accuracy: 91.61%, Val Loss: 0.3226, Val Accuracy: 87.86%
Epoch [70/100], Train Loss: 0.1968, Train Accuracy: 91.79%, Val Loss: 0.3126, Val Accuracy: 87.36%
Epoch [71/100], Train Loss: 0.2069, Train Accuracy: 91.45%, Val Loss: 0.3093, Val Accuracy: 87.36%
Epoch [72/100], Train Loss: 0.1955, Train Accuracy: 91.76%, Val Loss: 0.2646, Val Accuracy: 89.36%
Epoch [73/100], Train Loss: 0.1843, Train Accuracy: 92.77%, Val Loss: 0.2584, Val Accuracy: 89.86%
Saved best model with accuracy: 89.86%
Epoch [74/100], Train Loss: 0.1850, Train Accuracy: 93.24%, Val Loss: 0.2335, Val Accuracy: 91.24%
Saved best model with accuracy: 91.24%
Epoch [75/100], Train Loss: 0.1846, Train Accuracy: 92.67%, Val Loss: 0.2625, Val Accuracy: 89.86%
Epoch [76/100], Train Loss: 0.1541, Train Accuracy: 93.83%, Val Loss: 0.2493, Val Accuracy: 90.11%
Epoch [77/100], Train Loss: 0.1714, Train Accuracy: 92.70%, Val Loss: 0.2450, Val Accuracy: 89.61%
Epoch [78/100], Train Loss: 0.1572, Train Accuracy: 93.80%, Val Loss: 0.2977, Val Accuracy: 86.73%
Epoch [79/100], Train Loss: 0.1527, Train Accuracy: 93.99%, Val Loss: 0.3714, Val Accuracy: 87.11%
Epoch [80/100], Train Loss: 0.1570, Train Accuracy: 93.83%, Val Loss: 0.2367, Val Accuracy: 89.99%
Epoch [81/100], Train Loss: 0.1446, Train Accuracy: 94.27%, Val Loss: 0.2823, Val Accuracy: 88.24%
Epoch [82/100], Train Loss: 0.1579, Train Accuracy: 93.52%, Val Loss: 0.2407, Val Accuracy: 90.61%
Epoch [83/100], Train Loss: 0.1529, Train Accuracy: 93.96%, Val Loss: 0.2373, Val Accuracy: 91.11%
Epoch [84/100], Train Loss: 0.1342, Train Accuracy: 94.90%, Val Loss: 0.2304, Val Accuracy: 90.61%
Epoch [85/100], Train Loss: 0.1363, Train Accuracy: 94.68%, Val Loss: 0.2675, Val Accuracy: 89.24%
Epoch [86/100], Train Loss: 0.1257, Train Accuracy: 95.05%, Val Loss: 0.2385, Val Accuracy: 89.86%
Epoch [87/100], Train Loss: 0.1292, Train Accuracy: 95.15%, Val Loss: 0.2417, Val Accuracy: 90.49%
Epoch [88/100], Train Loss: 0.1236, Train Accuracy: 94.96%, Val Loss: 0.2758, Val Accuracy: 90.61%
Epoch [89/100], Train Loss: 0.1444, Train Accuracy: 94.55%, Val Loss: 0.2456, Val Accuracy: 90.86%
Epoch [90/100], Train Loss: 0.1004, Train Accuracy: 96.12%, Val Loss: 0.2596, Val Accuracy: 90.36%
Epoch [91/100], Train Loss: 0.1111, Train Accuracy: 95.80%, Val Loss: 0.2047, Val Accuracy: 90.99%
Epoch [92/100], Train Loss: 0.1065, Train Accuracy: 96.05%, Val Loss: 0.2179, Val Accuracy: 92.87%
Saved best model with accuracy: 92.87%
Epoch [93/100], Train Loss: 0.1165, Train Accuracy: 95.21%, Val Loss: 0.2356, Val Accuracy: 89.74%
Epoch [94/100], Train Loss: 0.0952, Train Accuracy: 96.52%, Val Loss: 0.2817, Val Accuracy: 89.61%
Epoch [95/100], Train Loss: 0.1412, Train Accuracy: 94.80%, Val Loss: 0.2196, Val Accuracy: 91.36%
Epoch [96/100], Train Loss: 0.1196, Train Accuracy: 95.02%, Val Loss: 0.2281, Val Accuracy: 91.86%
Epoch [97/100], Train Loss: 0.0931, Train Accuracy: 96.59%, Val Loss: 0.2502, Val Accuracy: 90.74%
Epoch [98/100], Train Loss: 0.1017, Train Accuracy: 96.18%, Val Loss: 0.2113, Val Accuracy: 92.37%
Epoch [99/100], Train Loss: 0.0991, Train Accuracy: 96.12%, Val Loss: 0.2252, Val Accuracy: 91.49%
Epoch [100/100], Train Loss: 0.0888, Train Accuracy: 96.18%, Val Loss: 0.2433, Val Accuracy: 90.74%
root@aicandy:/aicandy/projects/AIcandy_DenseNet_ImageClassification_mexgtkug#

Model được lưu tại: aicandy_model_out_ddmalncc/aicandy_model_pth_silsegko.pth

root@aicandy:/aicandy/projects/AIcandy_DenseNet_ImageClassification_mexgtkug# ls aicandy_model_out_ddmalncc
aicandy_model_pth_silsegko.pth
root@aicandy:/aicandy/projects/AIcandy_DenseNet_ImageClassification_mexgtkug#

4. Kết quả test

Thử nghiệm test với hình ảnh có ‘dog’, chương trình nhận dạng đúng.

root@aicandy:/aicandy/projects/AIcandy_DenseNet_ImageClassification_mexgtkug# python aicandy_densenet_test_beyugdam.py --image_path ../aicandy_true_dog.jpg --model_path aicandy_model_out_ddmalncc/aicandy_model_pth_silsegko.pth
labels: {0: 'cats', 1: 'dogs'}
Predicted class: dogs
root@aicandy:/aicandy/projects/AIcandy_DenseNet_ImageClassification_mexgtkug#