Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

安装时报错:Could not find a version that satisfies the requirement #133

Open
WenjingBao opened this issue May 19, 2023 · 10 comments
Open

Comments

@WenjingBao
Copy link

提问时请尽可能提供如下信息:

基本信息

  • 你使用的操作系统: CentOS Linux release 7.8.2003 (Core)
  • 你使用的Python版本: 3.8.5
  • 你使用的Pytorch版本: 2.0.1
  • 你使用的bert4torch版本: 0.2.8
  • 你加载的预训练模型: 无

核心代码

pip install git+https://github.com/Tongjilibo/bert4torch

git clone https://github.com/Tongjilibo/bert4torch.git
pip install ./bert4torch/

输出信息

Defaulting to user installation because normal site-packages is not writeable
Looking in indexes: http://mirrors.tencentyun.com/pypi/simple
Processing ./bert4torch
Collecting torch>1.6
  Downloading http://mirrors.tencentyun.com/pypi/packages/96/28/026dc037f177d53558477931677b120f649dd5a0dcdc4b44dc38b3d75711/torch-2.0.1-cp38-cp38-manylinux1_x86_64.whl (619.9 MB)
     |████████████████████████████████| 619.9 MB 608 kB/s 
ERROR: Could not find a version that satisfies the requirement torch4keras==0.0.7.post3 (from bert4torch==0.2.8) (from versions: 0.0.1, 0.0.2, 0.0.3, 0.0.3.post2, 0.0.4, 0.0.5, 0.0.6, 0.0.7)
ERROR: No matching distribution found for torch4keras==0.0.7.post3 (from bert4torch==0.2.8)

自我尝试

除了直接安装与clone后本地安装还试了ghproxy.com的版本,都报同样的错,也试过把requirements.txt里面bert4keras的版本后面的

.post3

去掉,也是一样的报错

@Tongjilibo
Copy link
Owner

pip install torch4keras看看安装的是什么版本

@Tongjilibo
Copy link
Owner

你直接pip install bert4torch看看能不能装上

@WenjingBao
Copy link
Author

pip install torch4keras看看安装的是什么版本

torch4keras-0.0.7-py3-none-any.whl这个

@WenjingBao
Copy link
Author

你直接pip install bert4torch看看能不能装上

嗯,我想用这个包训moss,标准版的也可以吗?

@Tongjilibo
Copy link
Owner

你直接pip install bert4torch看看能不能装上

嗯,我想用这个包训moss,标准版的也可以吗?

标准版是昨天刚发的,也是最新的,你那里多大算力啊,训练moss

@WenjingBao
Copy link
Author

WenjingBao commented May 22, 2023

你直接pip install bert4torch看看能不能装上

嗯,我想用这个包训moss,标准版的也可以吗?

标准版是昨天刚发的,也是最新的,你那里多大算力啊,训练moss

抱歉,周末碰不到电脑,有一台8张V-100的机器,不知道训量化版够不够。。。
另外就是安装对cuda,cudnn,gcc的版本有要求吗?因为需要预先load这些模块

@WenjingBao
Copy link
Author

另外这个包理论上可以替代transformer对支持的模型进行微调对吧?我是在moss的微调上遇到无法解决的随机bug才想试着用这个包的

@Tongjilibo
Copy link
Owner

另外这个包理论上可以替代transformer对支持的模型进行微调对吧?我是在moss的微调上遇到无法解决的随机bug才想试着用这个包的

遇到啥问题了,单卡是没问题的的,多卡微调我这边还没测试的很充分,moss肯定要多卡,我抓紧调试看看

@WenjingBao
Copy link
Author

moss遇到的问题是这个:OpenMOSS/MOSS#206
但是又不止是这个,moss 模型里面带的那5个.py会被transformer拉到cache里面用,但是经常在给后几张卡initialize的时候出现明明文件没问题,transformer却读不全的情况,导致的bug除了issue里面那个还会有

Attribution error: module 'transformers_modules.local.xxx.py' has no attribute 'xxx'

SyntexError: Unexpected EOF while parsing

诡异的是每次bug出的都不一样,而且不是100%出现,甚至同一环境和前置代码,第一遍跑run.sh有bug,第二遍就没了,第三遍又会换一个蹦出来

我自己怀疑是multi-threading读取冲突了,但是也不确定就是了

另外量化moss可以单卡,这个里面就有个例子:https://github.com/yangzhipeng1108/moss-finetune-and-moss-finetune-int8

@Tongjilibo
Copy link
Owner

好的,我这里参考下啊

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants