본문 바로가기

분류 전체보기

(78)

torchvision.datasets.Imagefolder 폴더 레이블링 이슈 데이터셋 폴더가 10개가 넘어가면 레이블의 자릿수를 일치시켜줘야한다. 간혹 레이블링이 꼬여 모델이 잘못 예측을 하게 되는 경우가 생긴다. e.g. 0,1,2,3,4,5,6,7,8,9,10,11,… -> 0,1,11,2,22,.. 이런 식으로!! 이 경우 모델이 misprediction이 되는 경우가 생긴다. 이렇게 될 경우 prediction 자체가 꼬여버리기 때문에 50퍼센트가 넘는 정확도를 가진 모델이 7퍼센트로 고꾸라질 수 있기 때문에 유의해야한다 !! 꿀팁! 이미지 저장시 자릿수를 맞추자!! 001 , …, 099처럼!!

[리뷰] Energy-based Out-of-distribution Detection Out of Distribution(OOD) detection score를 조사하다가 알게 된 논문이다. 2020년 NeurIPS에 나온 논문으로, OOD 탐지할 때 사용할 수 있는 score로 Energy score를 제시한다. 기존에 사용하였던 softmax score의 단점인 overconfidence를 줄일 수 있는 차별화된 방법이라고 저자들은 주장한다. 논문은 하단 링크에 달아두었다. NeurIPS 버전과 아카이브 버전이 다른데, 개인적으로 NeurIPS 버전이 Energy 개념을 이해하기 더 쉽게 기술해둔 듯하다. 어쨌든 두 버전 링크 모두 달아두도록 하겠다. [NeurIPS 버전] https://proceedings.neurips.cc/paper/2020/file/f5496252609c43e..

[리뷰] NaturalInversion: Data-Free Image Synthesis Improving Real-World Consistency 안녕하세요. 최근에 Model Inversion이라는 주제에 관심이 있어 관련된 논문을 읽고 있습니다. 이어서 NaturalInversion이라는 주제로 글을 작성해보고자 합니다. 해당 논문은 아래 링크를 첨부해도록 하겠습니다. https://arxiv.org/abs/2306.16661 NaturalInversion: Data-Free Image Synthesis Improving Real-World Consistency We introduce NaturalInversion, a novel model inversion-based method to synthesize images that agrees well with the original data distribution without using real..

[리뷰] Dreaming to Distill: Data-free Knowledge Transfer via DeepInversion 안녕하세요. DAFL에 이어 이번 시간에는 DeepInversion이라는 논문에 대해 이야기해보고자 합니다. 우선 DAFL에서 loss가 어떻게 구성이 되는지 확인해보도록 하겠습니다. 하단에 링크를 확인해주시기 바랍니다. 이해가 되실까요? 이번 시간에는 DAFL과는 다른 방식으로 이미지를 생성하는 방식에 대해 알아보고자 합니다. 이에 앞서, 우선 DeepDream이라는 개념부터 먼저 설명해보도록 하겠습니다. DeepDream은 구글에서 발표한 논문(https://ai.googleblog.com/2015/06/inceptionism-going-deeper-into-neural.html)으로, 아이가 구름을 보면서 다른 이미지를 상상하듯, 특정 이미지에 어떤 패턴을 주입하는 형태의 영상 생성에서의 한 컨셉입..

[리뷰] Data-Free Learning of Student Networks CNN 기반의 영상처리 모델들이 뛰어난 성능을 보이고 있지만, 여러 가지 한계가 존재합니다. 첫째로, 모델 자체가 너무 무겁다는 것이고, 둘째로는 training data에 직접 접근해야 하는 기존 모델들로는 data 제공을 받을 수 없는 실제 application 환경에서는 사용하기 힘들다는 점입니다. 이러한 한계를 보완하기 위해, 저자는 1) training data를 요구하지 않고, 2) 가벼운 모델로 높은 성능을 이뤄낼 수 있는 모델 구조를 제안합니다. 어떻게 이러한 방법론을 제안할 수 있었는지를 살펴보기 이전에, 기존의 모델 경량화를 어떻게 이루어냈는지부터 알아보도록 하겠습니다. Portable 모델의 두 가지 방식 제가 앞서 말씀드렸던 '가벼운 모델'은 논문에서 'portable model',..

Wsl/Service/CreateInstance/ERROR_FILE_NOT_FOUND 학교 term project 과제로 omnet++ 5.4.1을 ubuntu 16.04을 깔았다 지웠다 하다가, ubuntu가 실행조차 되지 않는 에러를 마주했다. 했던 행동 1. 'Windows 기능 켜기/끄기' 에 들어가서 가상 환경에서 필요한 기능들이 꺼져있는지 확인해 보기 2. Windows terminal에서 해당 instruction 다시 실행 dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart 3. win+R 누르고 SystemPropertiesAdvanced 접속 후 고급 -> 설정 -> (성능옵션 -> 고급 ) 으로 들어가서 가상 메모리 접속 -> 거 자동관리 체크 박스 ..

[선형대수학] 랭크의 활용 1달 전에 건강 정보로 NLP 관련 연구를 하는 교수님과 면담을 한 적이 있다. 선형대수를 공부한지 오래되기도 하였고, 공부를 하면서 통찰이 부족했던 터라 1달 내내 교수님이 던지셨던 질문에 풀리지 않은 의문점이 남아있었다. 고민만 하면 무엇도 이뤄지지 않지 않은가. 그래서 Chat-GPT에 물어봤다. 랭크의 활용 [나의 궁금증] 1명의 환자에 대한 건강 정보가 100000개의 벡터로 임베딩 되어 있고, 100000명의 사람이 있어서 총 100000*100000 사이즈의 행렬이 있어. 이때 이 행렬을 A라고 하고, A의 랭크는 10이야. 이랬을 때 이 행렬이 의미하는 바가 무엇인지 궁금해. 그리고 이 행렬을 k-means clustering을 통해 군집화한다고 했을 때 적절한 k가 어떻게 될지, 그리고 ..

AndroidStudio: tools:replace="android:appComponentFactory" 가 먹히지 않을 때 안드로이드 스튜디오에서 코드를 만지다 보면 종종 다음과 같은 에러가 뜨곤 한다. Attribute application@appComponentFactory value=(androidx.core.app.CoreComponentFactory) from [androidx.core:core:1.9.0] AndroidManifest.xml:28:18-86 is also present at [com.android.support:support-compat:28.0.0] AndroidManifest.xml:22:18-91 value=(android.support.v4.app.CoreComponentFactory). Suggestion: add 'tools:replace="android:appComponentFactor..

이전 1 ··· 6 7 8 9 10 다음

티스토리툴바