CTformer: трансформер зрения Token2Token с дилатацией без свёрточных операций для шумоподавления изображений низкодозовой КТ

Шумоподавление изображений низкодозовой компьютерной томографии (КТ) — важная задача исследований в области КТ. По сравнению с КТ при стандартной лучевой нагрузке изображения низкодозовой КТ характеризуются выраженным шумом и артефактами. В последнее время во многих исследованиях показано, что трансформеры зрения лучше извлекают признаки, чем свёрточные нейронные сети. Однако потенциал трансформеров зрения для шумоподавления изображений низкодозовой КТ до сих пор изучен мало. В этой работе мы стремимся глубже изучить возможности трансформеров в решении этой задачи.

Мы предлагаем CTformer — трансформер зрения Token2Token с дилатацией, не использующий свёрточные операции. Благодаря более эффективной перестановке токенов модель учитывает локальный контекст и обходится без свёрток. Кроме того, она применяет дилатацию и сдвиг карт признаков, чтобы улавливать взаимосвязи на большем расстоянии. Мы анализируем CTformer, исследуя закономерности на внутренних картах внимания и отслеживая иерархический поток внимания с помощью пояснительного графа. Для устранения граничных артефактов, характерных для моделей шумоподавления типа «кодировщик—декодировщик», также используется механизм перекрывающегося инференса.

Результаты экспериментов на наборе данных Mayo показывают, что CTformer превосходит современные методы шумоподавления при низких вычислительных затратах. Предложенная модель обеспечивает высокое качество шумоподавления изображений низкодозовой КТ. Низкие вычислительные затраты и интерпретируемость делают CTformer перспективным для клинического применения.