8000 请问如何在自己创建的超分数据集上微调Inf-DiT? · Issue #29 · zai-org/Inf-DiT · GitHub
[go: up one dir, main page]

Skip to content

请问如何在自己创建的超分数据集上微调Inf-DiT? #29

Open

Description

@XIAOXIXIXIXIXI

感谢您出色的工作!
现在我希望在我创建的自定义超分数据集上训练Inf-DiT,路径类似:
./my_dataset/hr/img_001.jpg...img_002.jpg....
./my_dataset/lr/img_001.jpg...img_002.jpg....
我注意到您目前使用的是WebDataset,我在将Inf-DiT应用到我自己的数据集上遇到了困难,希望得到您的指导

Activity

  1. sunrccc commented on Dec 6, 2024

    @sunrccc

    感谢您出色的工作! 现在我希望在我创建的自定义超分数据集上训练Inf-DiT,路径类似: ./my_dataset/hr/img_001.jpg...img_002.jpg.... ./my_dataset/lr/img_001.jpg...img_002.jpg.... 我注意到您目前使用的是WebDataset,我在将Inf-DiT应用到我自己的数据集上遇到了困难,希望得到您的指导

    请问一下您这边解决如何创建自己数据集的方法了吗,可否介绍一下细节,比如文件夹是怎么分级的

  2. BrooksXiaoxi commented on Dec 9, 2024

    @BrooksXiaoxi

    感谢您出色的工作! 现在我希望在我创建的自定义超分数据集上训练Inf-DiT,路径类似: ./my_dataset/hr/img_001.jpg...img_002.jpg.... ./my_dataset/lr/img_001.jpg...img_002.jpg.... 我注意到您目前使用的是WebDataset,我在将Inf-DiT应用到我自己的数据集上遇到了困难,希望得到您的指导

    请问一下您这边解决如何创建自己数据集的方法了吗,可否介绍一下细节,比如文件夹是怎么分级的

    是的,这个问题我已经解决,正如作者所说的,你需要先安装webdataset这个库。
    以下是我创建webdataset 数据集的相关代码,其实就是分别为train和val各生成一个tar包。你需要注意Inf-DiT不需要同时输入LR和GT,他只接收一个img输入(这个img将会被作为GT),LR是通过代码dit/data.py中的process_fn_sr_text2image()方法增强出来的,具体你可以阅读这部分相关的代码。
    import webdataset as wds
    with wds.TarWriter("/data/ht/qh_datasets/HTCD_uav0.075m/webdataset/val/dataset-000000.tar") as sink:
    for mon6 in mon6_image_files[int(total_len*0.9):]:
    with open(mon6, "rb") as f:
    data_mon6 = f.read()
    sink.write({"__key__": mon6.split("/")[-1].split(".")[0], "jpg": data_mon6})
    做完上述步骤,你应该获得:
    yourpath/train/dataset-000000.tar
    yourpath/val/dataset-000000.tar
    然后将他们的绝对路径填入train_text2image_sr_big_clip.sh。类似
    image
    就可以了,祝你成功!

  3. sunrccc commented on Dec 10, 2024

    @sunrccc

    感谢您出色的工作! 现在我希望在我创建的自定义超分数据集上训练Inf-DiT,路径类似: ./my_dataset/hr/img_001.jpg...img_002.jpg.... ./my_dataset/lr/img_001.jpg...img_002.jpg.... 我注意到您目前使用的是WebDataset,我在将Inf-DiT应用到我自己的数据集上遇到了困难,希望得到您的指导

    请问一下您这边解决如何创建自己数据集的方法了吗,可否介绍一下细节,比如文件夹是怎么分级的

    是的,这个问题我已经解决,正如作者所说的,你需要先安装webdataset这个库。 以下是我创建webdataset 数据集的相关代码,其实就是分别为train和val各生成一个tar包。你需要注意Inf-DiT不需要同时输入LR和GT,他只接收一个img输入(这个img将会被作为GT),LR是通过代码dit/data.py中的process_fn_sr_text2image()方法增强出来的,具体你可以阅读这部分相关的代码。 import webdataset as wds with wds.TarWriter("/data/ht/qh_datasets/HTCD_uav0.075m/webdataset/val/dataset-000000.tar") as sink: for mon6 in mon6_image_files[int(total_len*0.9):]: with open(mon6, "rb") as f: data_mon6 = f.read() sink.write({"__key__": mon6.split("/")[-1].split(".")[0], "jpg": data_mon6}) 做完上述步骤,你应该获得: yourpath/train/dataset-000000.tar yourpath/val/dataset-000000.tar 然后将他们的绝对路径填入train_text2image_sr_big_clip.sh。类似 image 就可以了,祝你成功!

    十分感谢您的回答!

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions

      0