가야태자의 스팀 일상- 스팀검색엔진 개발 경과, 파워업, 게임

in #steemsearch2 months ago


안녕하세요 가야태자 @talkit 입니다.

우선 오늘도 파워업은 1.6정도를 했습니다.

크립프티드 헌터 게임 선물은 인핸서가 나왔습니다.

그리고 개발 중이고 한참 수집 중인 데이터는

MySQL DB로는 계속 수집을 진행하고 있습니다.

그런데 ㅠ.ㅠ 검색엔진의 용량 문제로 검색엔진 서버가 뻣었습니다.

사용가능한 디스크가 36GB인데 ㅎㅎㅎ 36GB를 다 써버렸네요.

그래서 컴퓨터를 좀 비우고, VM의 가상 디스크를 1TB정도 준비한 다음에 붙여 놓을 생각 입니다.

이부분은 주말에 진행 하겠습니다.

그리고, 스팀잇의 글을 수집하는 데이타 량이 200만건이 넘었습니다.

MariaDB [steemsearch]> select count(*) from steem_posings;
+----------+
| count(*) |
+----------+
|  2096492 |
+----------+
1 row in set (3.539 sec)

Full 색인을 위한 사용자 대상은

MariaDB [steemsearch]> select count(*) from author_collection_status order by author;
+----------+
| count(*) |
+----------+
|     2911 |
+----------+
1 row in set (0.002 sec)

2911명이 총 수집 대상 사용자 입니다.

이부분은 계속 수집하면서 늘어 나고 있습니다.

2368명의 글을 수집을 했습니다. ^^

수집의 량 데이터의 량 등을 조금 더 알았으니

이제는 스팀의 사용자 리스트 API를 이용해서 전체 수집이 가능하도록 다음주부터 수정 해야겠습니다.

주말에는 저위에 검색엔진을 강화해서 디스크 때문에 뻣지 않도록 해야 할것 같습니다 ^^

토요일에는 일이 좀 있어서 ^^

감사합니다.


:wq



Posted through the ECblog app (https://blog.etain.club)

Sort:  

수집이 데이터 전체를 가져간다는 의미는 아니죠? 저장용량이 궁금해서요..

Posted using SteemX

[booming-kr-auto]
@booming-kr이 보팅드렸습니다 🙌

  • 여러분이 원글에 보팅한 수치: 25.00% / 116,715 Mrshares
    (보팅받는 기준: 50% 이상 또는 65,000 Mrshares 이상으로 보팅)
  • 시간: 2025-10-30 08:50:31 UTC+09:00
    IMG_9947.jpeg
  • 여러분의 임대와 보팅이 kr 커뮤니티를 활성화 하는데 큰 힘이 됩니다

제 목표는 스팀 데이터를 전부 수집하는 것입니다. ^^
저장용량은 오늘의 일지 게시물에 적어 보겠습니다. ^^

오~ 양이 엄청나군요~
화이팅~ 입니다! ^^

[booming-kr-auto]
@booming-kr이 보팅드렸습니다 🙌

  • 여러분이 원글에 보팅한 수치: 30.00% / 136,059 Mrshares
    (보팅받는 기준: 50% 이상 또는 65,000 Mrshares 이상으로 보팅)
  • 시간: 2025-10-31 00:07:03 UTC+09:00
    IMG_9947.jpeg
  • 여러분의 임대와 보팅이 kr 커뮤니티를 활성화 하는데 큰 힘이 됩니다

네, 아마도 스팀 사용자 전체를 대상으로 하면 더 많아 질 것으로 생각 됩니다.
현재는 제가 일정 범위만 수집하고 있어서요 ^^
감사합니다.

열심이시네요. 응원합니다. ^^

네 열심히 해보고 있습니다.
아키텍처 구성도 궁금하고 해서 ^^