꼭꼭 씹어먹고 싶은 만성소화불량

"Transfer learning"과 "Knowledge distillation"은 모두 기계 학습에서 지식을 전달하는 방법이지만, 다른 접근 방식과 목적을 가지고 있습니다. 지식 전달 (Transfer Learning) 의미: "지식 전달"은 한 도메인에서 학습된 지식을 다른 도메인이나 다른 작업에 적용하는 과정을 말합니다. 예를 들어, 한 이미지 분류 작업에서 학습된 모델을 다른 분류 작업에 적용하는 것이 여기에 해당합니다. 목적: 이 방법은 모델이 다른 도메인이나 작업에서 좋은 성능을 낼 수 있도록 하는 데 초점을 맞춥니다. 차이: 다양한 도메인 간에 전반적인 지식을 전달하고, 레이블이 많이 필요하지 않은 새로운 작업에 모델을 빠르게 적응시키는 것이 목적입니다. 지식 증류 (Knowledge Dis..

더보기 Fine Tuning (세부 조정) 개념과 목적: 사전에 학습된 모델을 새로운 작업이나 도메인에 적용하기 위해 추가 학습을 수행하는 방법입니다. 목적은 특정 작업에 대한 모델의 성능을 최적화하는 것입니다. 등장 시기: 2010년대 초반, 딥러닝이 급속히 발전하면서 널리 사용되기 시작했습니다. 장단점: 장점: 사전 학습된 모델을 재사용하여 학습 시간을 단축하고, 적은 양의 데이터로도 높은 성능을 달성할 수 있습니다. 단점: 새로운 작업이나 도메인과 원래 모델이 학습된 도메인 간의 차이가 클 경우 성능이 제한될 수 있습니다. 학습 난이도: 상대적으로 낮음. 사전 학습된 모델에 의존하므로, 적절한 사전 학습 모델을 선택하고, 세부 조정 과정을 이해하는 것이 중요합니다. 환경: 딥러닝 프레임워크(Tens..

자 이걸 파보자. 리딩 사유 : https://lhw0772.medium.com/study-da-domain-adaptation-%EC%95%8C%EC%95%84%EB%B3%B4%EA%B8%B0-%EA%B8%B0%EB%B3%B8%ED%8E%B8-4af4ab63f871 여기에서 전반적인 DA확인가능하다고 했음. 오늘은 이것 하나를 완전히 이해해보자. Abstract "Deep domain adaptation"은 대량의 레이블이 지정된 데이터 부족을 해결하기 위한 새로운 학습 기술로 부상했다. 공유 기능 하위 공간을 학습하거나 얕은 표현으로 중요한 소스 인스턴스를 재사용하는 기존 방법에 비해 deep domain adaptation transferable representations 은 딥 러닝의 파이프라인..

딥 빌리프 네트워크(Deep Belief Networks, DBN)는 여러 겹의 비지도 학습 단위인 제한된 볼츠만 머신(Restricted Boltzmann Machine, RBM)으로 구성된 심층 신경망입니다. DBN은 레이블이 없는 데이터를 사용하여 효과적으로 특징을 학습할 수 있으며, 이를 통해 높은 수준의 추상화를 달성할 수 있습니다. DBN은 데이터에서 복잡한 표현을 학습하기 위해 계층적 구조를 사용합니다. 각 계층은 데이터의 특징을 점점 더 높은 수준으로 추상화하며, 이러한 과정을 통해 모델은 데이터의 중요한 특징을 효율적으로 인코딩하고 재구성할 수 있게 됩니다. DBN의 주요 특징: 비지도 학습: DBN은 초기 학습 단계에서 레이블이 없는 데이터를 활용할 수 있습니다. 이는 대량의 레이블이 ..

더보기 2024.03.20 - [AI/Baseline] - Domain Adaptation 이란? https://www.youtube.com/watch?v=dPSSMLhFGpI 아래 개념은 내가 정리한 것으로 영상과는 차이가 있다. OOD(Out-Of-Distribution) 데이터 OOD 데이터는 학습 데이터 분포와 다른 분포에서 온 데이터를 의미합니다. 즉, 모델이 학습하는 동안 접하지 않았던, 완전히 새로운 형태의 데이터입니다. OOD 데이터는 모델의 일반화 능력을 테스트하거나, 예상치 못한 상황에 모델이 어떻게 반응하는지 평가하는 데 사용됩니다. 예를 들어, 고양이와 개를 구별하기 위해 학습된 모델에 말이나 코끼리 사진을 입력하는 경우가 OOD에 해당합니다. 초점: OOD 데이터는 모델이 학습한 ..

-- 22년 11월 24일에 제출했던 자료다. 이거한다고 노벨AI 구독해서 이미지 딸깍 거렸는데 재밌었다.. (아련) 너무 넓은 범위를 아우른 것 같은데 다시한다면 법제현황같은 것은 날리고 보다 논문에 가까운 같은 방식으로 했을 것 같다. 참조 영상 : https://www.youtube.com/watch?v=thsXGOkcGGg

GAN(Generative Adversarial Networks)과 Diffusion 모델은 모두 생성적 모델링을 위한 기법이지만, 데이터를 생성하는 메커니즘이 서로 다릅니다. GAN (Generative Adversarial Networks) 구조: GAN은 두 개의 신경망, 생성자(Generator)와 판별자(Discriminator)가 서로 경쟁하는 구조를 가집니다. 작동 방식: 생성자는 실제 데이터와 유사한 데이터를 생성하려고 시도하며, 판별자는 실제 데이터와 생성자가 만든 가짜 데이터를 구별하려고 합니다. 학습 목표: 생성자는 판별자를 속이려고 하며, 판별자는 실제와 가짜를 정확히 구별하려고 합니다. 이 과정에서 생성자는 점점 더 실제와 유사한 데이터를 생성하게 됩니다. 장점: 고품질의 결과물을..

Abstract 임의의 이미지 유도 스타일 전송 방법의 인상적인 결과에도 불구하고, 사용자가 제공하는 대상 스타일의 텍스트 설명에 따라 자연스러운 이미지를 스타일화된 이미지로 전송하기 위한 텍스트 기반 이미지 스타일화가 최근 제안되었다. 이전의 image2image 변환과 다르게 text-guided stylization progress은 보다 정밀하고 직관적인 이상적으로 스타일을 표현하는 방식을 제공한다. 그러나, 모델 간(cross-modal) i/o의 큰 불일치성 때문에 일상의 피드포워드 CNN 파이프라인 에서 text로 이미지 스티일화를 수행하는 것이 어렵다. 이 논문에서는 DiffSytle을 제공하여 2개의 diffusion 처리 구조를 통해 diffused 결과의 내용과 스타일을 조절할 생각이..

Sensitivity Specificity - Sensitivity는 민감도. 민감도를 높이면 무엇이든 참이라고 추론할 것이다. (참은 잘맞추겠지만 거짓이 많이 나올 것) - Specificity는 특이성. 특이성을 높이면 무엇이든 거짓이라고 추론할 것이다. (거짓을 잘 맞추겠지만.. ) - sensitivity와 1-Specificity 는 비례한다. ROC (Receiver Operating Characteristic) curve -FPR과 TPR을 각각 x,y축으로 놓은 그래프라고 한다. 기계 실제 -False Positive Rate : 참 (거짓) 의 비율 (분모는 실제 거짓) =Sensitivity -True Positive Rate : (참) 참 의 비율 (분모는 실제 참 ) = 1-Spec..

https://aiassociation.kr/publication/publication01.asp 1. 집단 행동 인식 테크닉에 관한 조사 /// 21 한국인공지능학회 논문집 -요약 : 그룹 행동 인식은 영상 이해에서 중요한 문제고 실질적인 application 도 많다. 많은 사람이 있는 장면을 이해하기 위해서는 개개인의 행동표현을 알 뿐만 아니라 집단의 행동또한 추론할 수 있어야 한다. 이 논문은 집단 행동 필드에 대한 최근 트렌드를 전체적으로 파악하는데 주력했다. +)그룹 행동 인식에 대해 보편적으로 사용하는 데이터셋에 대해 다룬다. 주요문장 -그래서, 대부분의 그룹행동인식 모델은 개개인의 활동은 내부적으로는 표면적으로든(내재적외재적) 분석한다. -detection work를 한 사람의 행동인식과 ..