이번에는 SimCLR와 CLIP이 무엇인지 정말 개념만 아는 정도로 알아봤다..(시험범위...ㅎ)수업 마지막 부분은 여러가지 기술을 알려주는 부분이었는데 자세히 아는 것보다는 눈이 익혀두라고 하셨다. 둘 다 self-superviesd learning으로 label 없이 embedding 했을 때 비슷하면 거리가 가깝게 나타내도록 한다. SimCLR는 논문 A Simple Framework for Contrastive Learning of Visual Representation에서 온 말이다.논문 제목에서 알 수 있듯, Contrastive learning 을 사용한다. 그림을 보면 같은 x로부터 서로 다른 augmentation을 적용해 $\widetilde{x}_{i}$와 $\widetilde{x..
오늘은 자료구조 공부 좀 해봤다.코테 할때도 항상 어떤 자료구조가 좋을 지 생각해야 하므로좋은 공부 시간이었다! 2024.06.11 - [자료구조] - B-tree B-tree만약에 data가 외부 disk에 저장되면 어떡하지.. 한번 접근하는 데 엄청 느릴 텐데..최대한 wide 하면서도 (depth가 적을수록 좋다는 뜻) 한 disk block에 fit 할 수 있어야 함 B tree의 조건 : 임의의 k (keys)daily-programming-til.tistory.com 2024.06.12 - [자료구조] - Graph - 그래프 Graph - 그래프GraphG = (V, E)V : node/vertices의 집합E : edge/link의 집합undirected graph - 방향이 없음 (E를 ..
오늘은 Loss function에 대해서 간단하게 정리해 보 겠 다.저번 수업 시간에 교수님께서 갑자기 OOO학생 무슨 Loss function 쓰면 될까요? 하셨는데내 이름이 불리지 않은 것에 매우 감사했다.. ㅋㅋㅋ 그런일이 다시 없도록 정리해 둬야지일단 softmax$S(y_{i}) = \frac{e^{y_{i}}}{\sum_{j}^{}{e^{y_{j}}}}$1. 회귀 (Regression) 문제:MSE(Mean Squared Error) - Ridge$ \frac{1}{N}\sum_{N}^{i}(h(x)-f(x))^2$MAE(Mean Absolute Error) - Lasso$ \frac{1}{N}\sum_{N}^{i}\left|(h(x)-f(x))\right|$2. 이진 분류 ( Binary C..
🔗 1277. Count Square Submatrices with All One 코테 문제 풀어봤는데 TEST CASE는 통과했으나자꾸 시간초과가 났다.... 무슨 문제인지 알겠는데 담에 다시 해봐야겠다. 어제 공부한 내용을 정리해서 올려봤다.점점 살을 붙여가는 느낌으로반복해서 볼 수 있게 해놨다. 2024.06.09 - [데이터 사이언스] - Clustering 키워드 - 1 단계 Clustering 키워드 - 1 단계시험 준비용 자료이다 어떻게 공부할까 하다가제일 간단한 키워드 부터 시작해서 3단계로 점점 살을 붙여나갈거다!!계속 반복해서 보면서 학습하면 좋을 듯 하다. 가보자고What is cluster analysisCatedaily-programming-til.tistory.com 2024...
오늘 코테 문제를 풀어보려고 했으나... 시험공부가 더 우선이여서 조금 시도해 보다가 말았다..일단 큰 문제를 작은 문제로 나누는 연습을 해야겠다. 머리가 안돌아가.. 오늘은 Clustering에 대해서 공부했다. 생각하는 키워드들은..K-MeansPAMCLARAAGNESDIANACHAMELEON까지.. 내일 블로그 글로 써봐야겠다. 야호
오늘은 시험 공부하느라 문제는 풀려고 시도했다가 한시간 안에 못풀어서 포기했다...대신~~~강의 보면서 블로그에 정리해봤다.딥러닝 강의 들으면서 이렇게 명쾌했던 적이 있던가....!너무 재밌었다2024.06.06 - [딥러닝] - MIT 6.S191 (2023): Deep Generative Modeling (~41:25 VAE) MIT 6.S191 (2023): Deep Generative Modeling (~41:25 VAE)딥러닝 수업 기말을 위해 공부를 해야해서해당 영상을 참고해 공부해 봤다. 근데 정말 잘 가르친다... 강추..모든 정보와 슬라이드는 "MIT 6.S191 (2023): Deep Generative Modeling"을 참고했다.MIT 6.S191 (2023):daily-progra..
오늘은 내일 발표를 준비하느라 코테를 준비하지 못했다...하지만 논문은 읽었지.. Fuzzing에 대해서 공부중인데 오늘은 아래 논문을 읽었다. 3까지.. fuzzing을 LLM을 이용해 하는 방법이다. tencent 연구원들이 썼다. 굉장히 최근에 나왔다.이 논문을 읽으면서 또 읽어야 하거나 봐야하는 논문과 링크를 정리해 봤다. Prompt Fuzzing for Fuzz Driver Generationhttps://arxiv.org/abs/2312.17677 Prompt Fuzzing for Fuzz Driver GenerationCrafting high-quality fuzz drivers not only is time-consuming but also requires a deep understand..