Skip to content

Conversation

@lsz05
Copy link
Collaborator

@lsz05 lsz05 commented Dec 22, 2025

関連する Issue / PR

N/A

PR をマージした後の挙動の変化

v2.0.0にアップグレード (詳細はREADMEに参照)

挙動の変更を達成するために行ったこと

  • v1.x の独自の評価を廃止し,MTEBのコードベースを使った評価にしました
  • 独自のleaderboardを削除し,MTEB Leaderboard (General Purpose → Language-specific → Japanese) に移転しました

動作確認

  • テストが通ることを確認した
  • マージ先がdevブランチであることを確認した

@lsz05 lsz05 added the wip Work in progress label Dec 22, 2025
@lsz05 lsz05 removed the wip Work in progress label Dec 24, 2025
@lsz05 lsz05 changed the title [WIP] v2: merge to MTEB's codebase v2: merge to MTEB's codebase Dec 24, 2025
@lsz05 lsz05 requested a review from akiFQC December 24, 2025 08:04
README.md Outdated
| Feature | v1.x | v2.0 |
|---------|------|------|
| Evaluation Engine | Custom | MTEB |
| API Complexity | High | Low |
Copy link
Collaborator

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

API Complexity は主観的な評価かなと思います
この行はなくても良いかと思いました。

Copy link
Collaborator Author

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

削除しました。

README.md Outdated
| Evaluation Engine | Custom | MTEB |
| API Complexity | High | Low |
| Dataset Count | 28 | 28 |
| Caching | Basic | Advanced |
Copy link
Collaborator

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Caching がどのようにAdvancedなのかを説明いただけると幸いです。

Copy link
Collaborator Author

@lsz05 lsz05 Dec 26, 2025

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Cachingは1.xでは手動でのsaveでして,2.0はmtebのcaching機能をそのまま使えるのでより完備しているという意味で,この行なくてもいいので削除しました。

Copy link
Collaborator

@akiFQC akiFQC left a comment

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

LGTM

@lsz05 lsz05 merged commit a7819e7 into dev Dec 26, 2025
3 checks passed
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

3 participants