id int64 0 458k | file_name stringlengths 4 119 | file_path stringlengths 14 227 | content stringlengths 24 9.96M | size int64 24 9.96M | language stringclasses 1 value | extension stringclasses 14 values | total_lines int64 1 219k | avg_line_length float64 2.52 4.63M | max_line_length int64 5 9.91M | alphanum_fraction float64 0 1 | repo_name stringlengths 7 101 | repo_stars int64 100 139k | repo_forks int64 0 26.4k | repo_open_issues int64 0 2.27k | repo_license stringclasses 12 values | repo_extraction_date stringclasses 433 values |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
2,286,900 | clientper.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientper.cpython-39.pyc | a
f¾`c„ ã @ sL d dl Z d dlZd dlmZ d dlZd dlZd dlmZ G dd„ deƒZ dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientPerc sB t ƒ j||||fi |¤� t ¡ | _tjj| j ¡ | j
d�| _ d S )N)Úlr) ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© úr/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientper.pyr
s
zclientPer.__init__c
C s | ¡ }t ¡ }| j ¡ | j}| jr8tj d|d ¡}t |ƒD ]ª}t
|ƒD ]œ\}\}}t |ƒt g ƒkr~|d | j
¡|d< n | | j
¡}| | j
¡}| jr¶t dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ qLq@| jd d7 < | jd t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost)Úload_train_dataÚtimer
ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚtoÚdeviceÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚstepÚtrain_time_cost)
r Ú trainloaderÚ
start_timeÚmax_local_stepsr1 ÚiÚxÚyÚoutputr r r r r! s*
zclientPer.trainc C s0 t | ¡ | jj ¡ ƒD ]\}}|j ¡ |_qd S )N)Úzipr r
ÚbaseÚdataÚclone)r r
Ú new_paramÚ old_paramr r r Úset_parameters0 s zclientPer.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r! r@ Ú
__classcell__r r r r r s r )
Úcopyr
Útorch.nnr Únumpyr$ r Úflcore.clients.clientbaser r r r r r Ú<module> s | 1,856 | Python | .pyt | 19 | 96.631579 | 306 | 0.469532 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,901 | clientdynpt.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientdynpt.cpython-37.pyc | B
K´ccè ã @ sT d dl Z d dlZd dlmZ d dlZd dlZd dlmZ G dd„ deƒZ dd„ Z
dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientDynPTc s¬ t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ |j | _ d | _
t | j¡}t|ƒ}t |¡| _tjj| jj ¡ | j
d�| _tjj| jj ¡ | j
d�| _ |j| _d S )N)Úlr)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizerÚalphaÚglobal_model_vectorÚcopyÚdeepcopyÚmodel_parameter_vectorÚ
zeros_likeÚold_gradÚ generatorÚ
poptimizerÚbaseÚ plocal_steps)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargsr )Ú __class__© úH/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientdynpt.pyr
s
zclientDynPT.__init__c C sÎ | ¡ }t ¡ }t | jj¡}| j | j¡ | j | j¡| _| j | j¡| _ | j
¡ x| jj ¡ D ]
}d|_
qdW x| jj ¡ D ]
}d|_
q€W x¾t| jƒD ]°}xªt|ƒD ]�\}\}}t|ƒtg ƒkrÚ|d | j¡|d< n | | j¡}| | j¡}| j�rt dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j ¡ q¨W qšW | j } x | jj ¡ D ] }d|_
�qbW x | jj ¡ D ] }d|_
�q€W | j�rªtj d| d ¡} �x
t| ƒD ]ş}xöt|ƒD ]ê\}\}}t|ƒtg ƒk�rø|d | j¡|d< n | | j¡}| | j¡}| j�r2t dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
| j d k�ršt | jƒ} |
| j!d t" #| | j d¡ 7 }
|
t" $| | j¡8 }
|
¡ | j ¡ �qÄW �q¶W | j d k�rêt | jƒ %¡ } | j| j!| | j | _| j &¡ | j &¡ | _| j &¡ | _ | j'd d7 < | j'd t ¡ | 7 < t | jj¡}
d}xRt(| ¡ |
¡ ƒD ]<\}}|| }t" )|dk|t" *|¡| ¡}|t" +|¡ }�q^W | j'd d7 < | j'd t ¡ | 7 < |S ) NFTr gš™™™™™¹?é é Ú
num_roundsÚ
total_cost),Úload_train_dataÚtimer r r
r ÚtoÚdevicer r Útrainr r Ú
requires_gradÚranger Ú enumerateÚtypeÚ
train_slowÚsleepÚnpÚabsÚrandomÚrandr Ú zero_gradr ÚbackwardÚstepÚ local_stepsÚrandintr r r r
ÚnormÚdotÚdetachÚcpuÚtrain_time_costÚzipÚwherer Úsum)r Ú trainloaderÚ
start_timeÚ
old_promptÚparamr: ÚiÚxÚyÚoutputr Úmax_local_stepsÚv1Ú
new_promptÚ
diff_provalueÚ new_paramÚ old_paramÚdiff_pror# r# r$ r- " s‚
zclientDynPT.trainc C sH x0t |j ¡ | jj ¡ ƒD ]\}}|j ¡ |_qW t|ƒ ¡ ¡ | _d S )N) rB r r r
ÚdataÚcloner r? r )r r
rQ rR r# r# r$ Úset_parameterss s "zclientDynPT.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r- rV Ú
__classcell__r# r# )r" r$ r s Qr c C s dd„ | ¡ D ƒ}tj|dd�S )Nc S s g | ]}| d ¡‘qS )éÿÿÿÿ)Úview)Ú.0Úpr# r# r$ ú
<listcomp>| s z*model_parameter_vector.<locals>.<listcomp>r )Údim)r r
Úcat)r
rH r# r# r$ r { s r ) r r
Útorch.nnr Únumpyr4 r* Úflcore.clients.clientbaser r r r# r# r# r$ Ú<module> s o | 3,383 | Python | .pyt | 42 | 79.452381 | 336 | 0.399761 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,902 | clientavg.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientavg.cpython-38.pyc | U
”jfcª ã @ sD d dl Z d dlmZ d dlZd dlZd dlmZ G dd„ deƒZdS )é N)ÚClientc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )Ú clientAVGc s> t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ d S )N)Úlr) ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersZ
learning_rateÚ optimizer)ÚselfÚargsÚidZ
train_samplesZ test_samplesÚkwargs©Ú __class__© õK D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\clients\clientavg.pyr
s
zclientAVG.__init__c
C sP | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}t |ƒD ]Æ}t |ƒD ]¸\}\}}t
|ƒt
g ƒkrŒ|d | j¡|d< n | | j¡}| | j¡}| jrÄt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j�rt| j|t|ƒƒ qZ| j ¡ qZqN| j ¡ | jd d7 < | jd t ¡ | 7 < d S )Né é r gš™™™™™¹?Z
num_roundsÚ
total_cost)Zload_train_dataÚtimer
ÚtoÚdeviceÚtrainÚ local_stepsZ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardZprivacyZdp_stepÚlenÚstepÚcpuZtrain_time_cost)
r Z trainloaderÚ
start_timeZmax_local_stepsr, ÚiÚxÚyÚoutputr r r r r s2
zclientAVG.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s r ) r
Útorch.nnr Únumpyr r Zflcore.clients.clientbaser r r r r r Ú<module> s
| 1,652 | Python | .pyt | 20 | 81.45 | 306 | 0.461727 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,903 | clientdyn.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientdyn.cpython-39.pyc | a
W¢bc‘ ã @ sT d dl Z d dlZd dlmZ d dlZd dlZd dlmZ G dd„ deƒZ dd„ Z
dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientDync sp t ƒ j||||fi |¤� t ¡ | _tjj| j ¡ | j
d�| _ |j | _ d | _
t | j¡}t|ƒ}t |¡| _d S )N)Úlr)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizerÚalphaÚglobal_model_vectorÚcopyÚdeepcopyÚmodel_parameter_vectorÚ
zeros_likeÚold_grad)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargsr ©Ú __class__© úr/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientdyn.pyr s
zclientDyn.__init__c C s® | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}t |ƒD ]ò}t |ƒD ]ä\}\}}t
|ƒt
g ƒkrŒ|d | j¡|d< n | | j¡}| | j¡}| jrÄt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | jd k�r,t| jƒ}
| | jd t |
| j d¡ 7 } | t |
| j¡8 } | ¡ | j ¡ qZqN| jd k�rtt| jƒ ¡ }
| j| j|
| j | _| j ¡ | j d d7 < | j d t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost) Úload_train_dataÚtimer
ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr r r r r
ÚnormÚdotr ÚbackwardÚstepÚdetachÚcpuÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚmax_local_stepsr: ÚiÚxÚyÚoutputr Úv1r r r! r* s<
zclientDyn.trainc C s@ t | ¡ | j ¡ ƒD ]\}}|j ¡ |_qt|ƒ ¡ ¡ | _d S )N)Úzipr r
ÚdataÚcloner r; r )r r
Ú new_paramÚ old_paramr r r! Úset_parametersL s zclientDyn.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r* rK Ú
__classcell__r r r r! r
s .r c C s dd„ | ¡ D ƒ}tj|dd�S )Nc S s g | ]}| d ¡‘qS )éÿÿÿÿ)Úview)Ú.0Úpr r r! Ú
<listcomp>T ó z*model_parameter_vector.<locals>.<listcomp>r )Údim)r r
Úcat)r
Úparamr r r! r S s r ) r r
Útorch.nnr Únumpyr- r' Úflcore.clients.clientbaser r r r r r r! Ú<module> s I | 2,567 | Python | .pyt | 28 | 90.571429 | 281 | 0.43937 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,904 | clientreppt.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientreppt.cpython-39.pyc | a
W¢bcû ã @ sD d dl Z d dlmZ d dlZd dlZd dlmZ G dd„ deƒZdS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientREPPTc sh t ƒ j||||fi |¤� t ¡ | _tjj| jj
¡ | j d�| _ tjj| jj
¡ | j d�| _|j| _d S )N)Úlr)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ generatorÚ
parametersÚ
learning_rateÚ
poptimizerÚbaseÚ optimizerÚ plocal_steps)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© út/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientreppt.pyr s
zclientREPPT.__init__c C sŠ | ¡ }t ¡ }| j | j¡ | j ¡ | jj ¡ D ]
}d|_q4| jj ¡ D ]
}d|_qL| jj
¡ D ]
}d|_qdt | j ƒD ]ª}t
|ƒD ]œ\}\}}t|ƒtg ƒkr¸|d | j¡|d< n | | j¡}| | j¡}| jrğt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ q†qz| j}
| j�rFtj d|
d ¡}
| jj ¡ D ] }d|_�qR| jj ¡ D ] }d|_�ql| jj
¡ D ] }d|_�q†t |
ƒD ]²}t
|ƒD ]¢\}\}}t|ƒtg ƒk�rÜ|d | j¡|d< n | | j¡}| | j¡}| j�rt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ �q¨�qœ| j ¡ | j d d7 < | j d t ¡ | 7 < d S ) NFTr gš™™™™™¹?é é Ú
num_roundsÚ
total_cost) Úload_train_dataÚtimer
ÚtoÚdeviceÚtrainr r Ú
requires_gradr Ú predictorÚranger Ú enumerateÚtypeÚ
train_slowÚsleepÚnpÚabsÚrandomÚrandr Ú zero_gradr ÚbackwardÚstepÚ local_stepsÚrandintr ÚcpuÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚparamr5 ÚiÚxÚyÚoutputr Úmax_local_stepsr r r r' s`
zclientREPPT.trainc C s0 t | ¡ | jj ¡ ƒD ]\}}|j ¡ |_qd S )N)Úzipr r
r ÚdataÚclone)r r Ú new_paramÚ old_paramr r r Úset_parametersT s zclientREPPT.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r' rG Ú
__classcell__r r r r r s
>r ) r
Útorch.nnr Únumpyr/ r$ Ú system.flcore.clients.clientbaser r r r r r Ú<module> s
| 2,426 | Python | .pyt | 34 | 70.117647 | 296 | 0.430004 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,905 | clientpFedMe.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientpFedMe.cpython-37.pyc | B
pûecö ã @ sX d dl Zd dlZd dlZd dlZd dlmZ d dlmZ d dl m
Z
G dd„ de
ƒZ dS )é N)ÚpFedMeOptimizer)ÚClientc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) Ú clientpFedMec s‚ t ƒ j||||f|� |j| _|j| _|j| _t t| j
¡ ƒ¡| _ t t| j
¡ ƒ¡| _ t
¡ | _t| j
¡ | j| jd�| _d S )N)ÚlrÚlamda)ÚsuperÚ__init__r ÚKZp_learning_rateZpersonalized_learning_rateÚcopyÚdeepcopyÚlistÚmodelÚ
parametersÚ local_paramsÚpersonalized_paramsÚnnÚCrossEntropyLossÚlossr Ú optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs)Ú __class__© úI/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientpFedMe.pyr s
zclientpFedMe.__init__c C s´ | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}�x t |ƒD �]}�x
|D �] \}}t |ƒt g ƒkr�|d | j¡|d< n | | j¡}| | j¡}| jrÈt
dt tj ¡ ¡ ¡ xNt | jƒD ]@}| j ¡ | |¡}| ||¡} | ¡ | j | j| j¡| _qÔW xHt| j| jƒD ]6\}
} | | j¡} | j| j| j | j|
j | _�q(W q`W qRW | j ¡ | | j| j¡ | j d d7 < | j d t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost) Úload_train_dataÚtimer
ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚtypeÚsleepÚabsÚrandr r Ú zero_gradr ÚbackwardÚstepr r ÚzipÚdatar Ú
learning_rateÚcpuÚupdate_parametersÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚmax_local_stepsr3 ÚxÚyÚiÚoutputr Ú new_paramZ localweightr r r r& s8
.
zclientpFedMe.trainc C sD x>t | ¡ | j ¡ | jƒD ]"\}}}|j ¡ |_|j ¡ |_qW d S )N)r4 r r
r r5 Úclone)r r
rA Ú old_paramZ local_paramr r r Úset_parametersE s $ zclientpFedMe.set_parametersc C sæ | ¡ }| | j| j¡ | j | j¡ | j ¡ d}d}t ¡ �� x†|D ]~\}}t |ƒt g ƒkrv|d | j¡|d< n | | j¡}| | j¡}| |¡}|t
tj |dd�|k¡ ¡ 7 }||j
d 7 }qHW W d Q R X | j ¡ ||fS )Nr r )Údim)Úload_test_datar8 r
r r$ r% ÚevalÚtorchÚno_gradr- ÚsumÚargmaxÚitemÚshaper7 )r ÚtestloaderfullÚtest_accÚtest_numr= r> r@ r r r Útest_metrics_personalizedJ s"
z&clientpFedMe.test_metrics_personalized)Ú__name__Ú
__module__Ú __qualname__r r& rD rQ Ú
__classcell__r r )r r r
s +r ) Únumpyr) r# r
rH Útorch.nnr Z flcore.optimizers.fedoptimizerr Úflcore.clients.clientbaser r r r r r Ú<module> s | 2,893 | Python | .pyt | 30 | 95.1 | 455 | 0.447975 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,906 | clientditto.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientditto.cpython-38.pyc | U
”jfcñ ã @ s‚ d dl Z d dlZd dlZd dlZd dlmZ d dlmZ d dl m
Z
d dl m m Z
d dlmZ d dlmZ G dd„ de
ƒZdS )é N)ÚPerturbedGradientDescent)ÚClient)Úlabel_binarize)Úmetricsc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) Ú clientDittoc sv t ƒ j||||f|� |j| _|j| _t | j¡| _t ¡ | _
t j j
| j ¡ | jd�| _t| j ¡ | j| jd�| _d S )N)Úlr)r Úmu)ÚsuperÚ__init__r Ú plocal_stepsÚcopyÚdeepcopyÚmodelÚpmodelÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚ
parametersÚ
learning_rateÚ optimizerr Ú
poptimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© õM D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\clients\clientditto.pyr
s
ÿzclientDitto.__init__c
C sP | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}t |ƒD ]Æ}t |ƒD ]¸\}\}}t
|ƒt
g ƒkrŒ|d | j¡|d< n | | j¡}| | j¡}| jrÄt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j�rt| j|t|ƒƒ qZ| j ¡ qZqN| j ¡ | jd d7 < | jd t ¡ | 7 < d S )Né é r çš™™™™™¹?Ú
num_roundsÚ
total_cost)Úload_train_dataÚtimer ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚprivacyÚdp_stepÚlenÚstepÚcpuÚtrain_time_cost)
r Ú trainloaderÚ
start_timeÚmax_local_stepsr> ÚiÚxÚyÚoutputr r" r" r# r- ! s2
zclientDitto.trainc C s& | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}t |ƒD ]®}|D ]¤\}}t |ƒt g ƒkr„|d | j¡|d< n | | j¡}| | j¡}| jr¼t
dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡}| ¡ | j | j ¡ | j¡ qVqN| j ¡ | jd t ¡ | 7 < d S )Nr$ r% r r& r( )r) r* r r+ r, r- r r/ r0 r1 r2 r3 r5 r6 r7 r8 r r9 r r: r> r r r? r@ ) r rA rB rC r> rE rF rG r r" r" r# ÚptrainI s,
zclientDitto.ptrainc
C sJ | ¡ }| j | j¡ | j ¡ d}d}g }g }t ¡ �Ì |D ]À\}}t|ƒtg ƒkrl|d | j¡|d< n | | j¡}| | j¡}| |¡}|t tj |dd�|k¡
¡ 7 }||j d 7 }| t
|¡ ¡ ¡ ¡ ¡ | t| ¡ ¡ ¡ t | j¡d�¡ q>W 5 Q R X | j ¡ tj|dd�}tj|dd�}tj||dd�} ||| fS )Nr r$ )Údim)Úclasses)ÚaxisÚmicro)Úaverage)Úload_test_datar r+ r, Úevalr Úno_gradr5 ÚsumÚargmaxÚitemÚshapeÚappendÚFÚsoftmaxÚdetachr? Únumpyr r0 ÚarangeÚ num_classesÚ concatenater Ú
roc_auc_score)
r ÚtestloaderfullÚtest_accÚtest_numÚy_probÚy_truerE rF rG Úaucr" r" r# Ú test_metricsh s.
2
zclientDitto.test_metrics)Ú__name__Ú
__module__Ú __qualname__r
r- rH rd Ú
__classcell__r" r" r r# r s ( r )r rY r0 r* r Útorch.nnr Ú flcore.optimizers.fedoptimizerr Úflcore.clients.clientbaser Útorch.nn.functionalÚ
functionalrV Úsklearn.preprocessingr Úsklearnr r r" r" r" r# Ú<module> s | 3,498 | Python | .pyt | 36 | 96 | 478 | 0.421311 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,907 | clientpt.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientpt.cpython-39.pyc | a
W¢bc5 ã @ sD d dl Z d dlmZ d dlZd dlZd dlmZ G dd„ deƒZdS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )ÚclientPTc sh t ƒ j||||fi |¤� t ¡ | _tjj| jj
¡ | j d�| _ tjj| jj
¡ | j d�| _|j| _d S )N)Úlr)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ generatorÚ
parametersÚ
learning_rateÚ
poptimizerÚbaseÚ optimizerÚ plocal_steps)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© úq/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientpt.pyr s
zclientPT.__init__c C sX | ¡ }t ¡ }| j | j¡ | j ¡ | jj ¡ D ]
}d|_q4| jj ¡ D ]
}d|_qLt
| j ƒD ]ª}t |ƒD ]œ\}\}}t
|ƒt
g ƒkr |d | j¡|d< n | | j¡}| | j¡}| jrØt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ qnqb| j}
| j�r.tj d|
d ¡}
| jj ¡ D ] }d|_�q:| jj ¡ D ] }d|_�qTt
|
ƒD ]²}t |ƒD ]¢\}\}}t
|ƒt
g ƒk�rª|d | j¡|d< n | | j¡}| | j¡}| j�rät dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ �qv�qj| j ¡ | j d d7 < | j d t ¡ | 7 < d S ) NFTr gš™™™™™¹?é é Ú
num_roundsÚ
total_cost) Úload_train_dataÚtimer
ÚtoÚdeviceÚtrainr r Ú
requires_gradr Úranger Ú enumerateÚtypeÚ
train_slowÚsleepÚnpÚabsÚrandomÚrandr Ú zero_gradr ÚbackwardÚstepÚ local_stepsÚrandintr ÚcpuÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚparamr4 ÚiÚxÚyÚoutputr Úmax_local_stepsr r r r' sX
zclientPT.trainc C s0 t | ¡ | jj ¡ ƒD ]\}}|j ¡ |_qd S )N)Úzipr r
r ÚdataÚclone)r r Ú new_paramÚ old_paramr r r Úset_parametersP s zclientPT.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r' rF Ú
__classcell__r r r r r s
:r ) r
Útorch.nnr Únumpyr. r$ Ú system.flcore.clients.clientbaser r r r r r Ú<module> s
| 2,342 | Python | .pyt | 32 | 72 | 293 | 0.43055 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,908 | clientbabu.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientbabu.cpython-38.pyc | U
”jfcù
ã @ sL d dl Z d dlZd dlmZ d dlZd dlZd dlmZ G dd„ deƒZ dS )é N)ÚClientc s< e Zd Z‡ fdd„Zdd„ Zdd„ Zddgfd d
„Z‡ ZS ) Ú
clientBABUc s` t ƒ j||||f|Ž t ¡ | _tjj| jj
¡ | j d�| _ |j
| _
| jj
¡ D ]
}d|_qPd S )N)ÚlrF)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚbaseÚ
parametersÚ
learning_rateÚ optimizerÚfine_tuning_stepsÚ predictorÚ
requires_grad)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargsÚparam©Ú __class__© õL D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\clients\clientbabu.pyr
s
zclientBABU.__init__c
C s4 | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}t |ƒD ]ª}t |ƒD ]œ\}\}}t
|ƒt
g ƒkrŒ|d | j¡|d< n | | j¡}| | j¡}| jrÄt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ qZqN| j ¡ | jd d7 < | jd t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost)Úload_train_dataÚtimer
ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚstepÚcpuÚtrain_time_cost)
r Ú trainloaderÚ
start_timeÚmax_local_stepsr6 ÚiÚxÚyÚoutputr r r r r( s.
zclientBABU.trainc C s0 t | ¡ | jj ¡ ƒD ]\}}|j ¡ |_qd S )N)Úzipr r
r ÚdataÚclone)r r Ú new_paramÚ old_paramr r r Úset_parameters6 s zclientBABU.set_parametersr r c
C s | ¡ }| j | j¡ | j ¡ d|kr@| jj ¡ D ]
}d|_q4d|kr`| jj ¡ D ]
}d|_qTt| j ƒD ]Š}t
|ƒD ]|\}\}}t |ƒt g ƒkr¨|d | j¡|d< n | | j¡}| | j¡}| j
¡ | |¡}| ||¡} | ¡ | j ¡ qvqj| j ¡ d S )Nr Tr Fr )r$ r
r& r' r( r r r r. r r/ r0 r r4 r r5 r6 r7 )
r Z which_moduler9 r r6 r< r= r> r? r r r r Ú fine_tune: s*
zclientBABU.fine_tune)Ú__name__Ú
__module__Ú __qualname__r r( rE rF Ú
__classcell__r r r r r s r )
Úcopyr
Útorch.nnr Únumpyr+ r% Úflcore.clients.clientbaser r r r r r Ú<module> s | 2,547 | Python | .pyt | 33 | 76 | 278 | 0.417097 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,909 | clientdynpt.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientdynpt.cpython-39.pyc | a
W¢bc¢ ã @ sT d dl Z d dlZd dlmZ d dlZd dlZd dlmZ G dd„ deƒZ dd„ Z
dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientDynPTc s° t ƒ j||||fi |¤� t ¡ | _tjj| j ¡ | j
d�| _ |j | _ d | _
t | j¡}t|ƒ}t |¡| _tjj| jj ¡ | j
d�| _tjj| jj ¡ | j
d�| _ |j| _d S )N)Úlr)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizerÚalphaÚglobal_model_vectorÚcopyÚdeepcopyÚmodel_parameter_vectorÚ
zeros_likeÚold_gradÚ generatorÚ
poptimizerÚbaseÚ plocal_steps)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargsr ©Ú __class__© út/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientdynpt.pyr
s
zclientDynPT.__init__c C sÒ | ¡ }t ¡ }| j | j¡ | j ¡ | jj ¡ D ]
}d|_q4| jj ¡ D ]
}d|_qLt
| j ƒD ]ª}t |ƒD ]œ\}\}}t
|ƒt
g ƒkr |d | j¡|d< n | | j¡}| | j¡}| jrØt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ qnqb| j}
| jj ¡ D ] }d|_�q | jj ¡ D ] }d|_�q:| j�rbtj d|
d ¡}
t
|
ƒD ]ú}t |ƒD ]ê\}\}}t
|ƒt
g ƒk�rª|d | j¡|d< n | | j¡}| | j¡}| j�rät dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | j d k�rLt | jƒ} | | j d t | | j d¡ 7 } | t !| | j"¡8 } | ¡ | j ¡ �qv�qj| j d k�r˜t | jƒ #¡ } | j"| j | | j | _"| j $¡ | j%d d7 < | j%d t ¡ | 7 < d S ) NFTr gš™™™™™¹?é é Ú
num_roundsÚ
total_cost)&Úload_train_dataÚtimer
ÚtoÚdeviceÚtrainr r Ú
requires_gradr Úranger Ú enumerateÚtypeÚ
train_slowÚsleepÚnpÚabsÚrandomÚrandr Ú zero_gradr ÚbackwardÚstepÚ local_stepsÚrandintr r r r r
ÚnormÚdotr ÚdetachÚcpuÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚparamr; ÚiÚxÚyÚoutputr Úmax_local_stepsÚv1r$ r$ r% r. " sf
zclientDynPT.trainc C sD t |j ¡ | jj ¡ ƒD ]\}}|j ¡ |_qt|ƒ ¡ ¡ | _d S )N) Úzipr r r
ÚdataÚcloner r@ r )r r
Ú new_paramÚ old_paramr$ r$ r% Úset_parametersf s zclientDynPT.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r. rQ Ú
__classcell__r$ r$ r" r% r s Dr c C s dd„ | ¡ D ƒ}tj|dd�S )Nc S s g | ]}| d ¡‘qS )éÿÿÿÿ)Úview)Ú.0Úpr$ r$ r% Ú
<listcomp>o ó z*model_parameter_vector.<locals>.<listcomp>r )Údim)r r
Úcat)r
rE r$ r$ r% r n s r ) r r
Útorch.nnr Únumpyr5 r+ Úflcore.clients.clientbaser r r r$ r$ r$ r% Ú<module> s b | 3,080 | Python | .pyt | 36 | 84.527778 | 394 | 0.415764 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,910 | clientphp.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientphp.cpython-37.pyc | B
fcX ã @ sV d dl Z d dlZd dlmZ d dlZd dlZd dlmZ G dd„ deƒZ ddd„Z
dS ) é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientPHPc s| t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ |j |j
| _ |j| _t | j¡| _x| j ¡ D ]
}d|_qjW d S )N)ÚlrF)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizerÚmuÚ
global_roundsÚlamdaÚcopyÚdeepcopyÚmodel_sÚ
requires_grad)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargsÚparam)Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientphp.pyr s
zclientPHP.__init__c
C sˆ | ¡ }t ¡ }| j | j¡ | j | j¡ | j ¡ | j}| jrTt j
d|d ¡}xît |ƒD ]â}xÜt
|ƒD ]Ğ\}\}}t|ƒtg ƒkr�|d | j¡|d< n | | j¡}| | j¡}| jrÖt dt t j
¡ ¡ ¡ | j ¡ | |¡}| ||¡d| j } | t| j |¡| j |¡d| jƒ| j 7 } | ¡ | j ¡ qlW q^W | j ¡ | j ¡ | jd d7 < | jd t ¡ | 7 < d S )Né é r gš™™™™™¹?ÚrbfÚ
num_roundsÚ
total_cost) Úload_train_dataÚtimer
ÚtoÚdevicer ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr r ÚMMDÚbaseÚbackwardÚstepÚcpuÚtrain_time_cost)
r Ú trainloaderÚ
start_timeÚmax_local_stepsr; ÚiÚxÚyÚoutputr r r r! r+ s4
*
zclientPHP.trainc C st | j | }x,t| ¡ | j ¡ ƒD ]\}}|j ¡ |_q W x6t| ¡ | j ¡ ƒD ] \}}|d| || |_qNW d S )Nr" )r Úzipr r ÚdataÚcloner
)r r
ÚRr Ú new_paramÚ old_paramr r r! Úset_parameters< s
zclientPHP.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r+ rK Ú
__classcell__r r )r r! r
s #r r< c C sÈ t | | ¡ ¡t || ¡ ¡t | | ¡ ¡ }}}| ¡ d¡ |¡}| ¡ d¡ |¡}| ¡ | d| } | ¡ | d| }
| ¡ | d| } t |j¡ |¡t |j¡ |¡t |j¡ |¡ } }
}|dk�rJddddg}x`|D ]X}| |d |d | d 7 } |
|d |d |
d 7 }
||d |d | d 7 }qîW |d
k�r²d d d
dg}xP|D ]H}| t d| | ¡7 } |
t d|
| ¡7 }
|t d| | ¡7 }�qfW t
| |
d| ¡S )a Emprical maximum mean discrepancy. The lower the result
the more evidence that distributions are the same.
Args:
x: first sample, distribution P
y: second sample, distribution Q
kernel: kernel type such as "multiscale" or "rbf"
r g @Z
multiscalegš™™™™™É?g à?gÍÌÌÌÌÌì?gÍÌÌÌÌÌô?r# éÿÿÿÿr$ é
é é é2 g à¿) r
ÚmmÚtÚdiagÚ unsqueezeÚ expand_asÚzerosÚshaper) ÚexpÚmean)rB rC Úkernelr* ÚxxÚyyÚzzÚrxÚryZdxxZdyyZdxyÚXXÚYYZXYZbandwidth_rangeÚar r r! r8 F s, 4
r8 )r< ) r r
Útorch.nnr Únumpyr. r( Úflcore.clients.clientbaser r r8 r r r r! Ú<module> s < | 3,309 | Python | .pyt | 43 | 74.906977 | 288 | 0.424985 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,911 | clientavg.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientavg.cpython-39.pyc | a
W¢bcª ã @ sD d dl Z d dlmZ d dlZd dlZd dlmZ G dd„ deƒZdS )é N)ÚClientc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )Ú clientAVGc sB t ƒ j||||fi |¤� t ¡ | _tjj| j ¡ | j
d�| _ d S )N)Úlr) ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersZ
learning_rateÚ optimizer)ÚselfÚargsÚidZ
train_samplesZ test_samplesÚkwargs©Ú __class__© úr/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientavg.pyr
s
zclientAVG.__init__c
C sP | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}t |ƒD ]Æ}t |ƒD ]¸\}\}}t
|ƒt
g ƒkrŒ|d | j¡|d< n | | j¡}| | j¡}| jrÄt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j�rt| j|t|ƒƒ qZ| j ¡ qZqN| j ¡ | jd d7 < | jd t ¡ | 7 < d S )Né é r gš™™™™™¹?Z
num_roundsÚ
total_cost)Zload_train_dataÚtimer
ÚtoÚdeviceÚtrainÚ local_stepsZ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardZprivacyZdp_stepÚlenÚstepÚcpuZtrain_time_cost)
r Z trainloaderÚ
start_timeZmax_local_stepsr, ÚiÚxÚyÚoutputr r r r r s2
zclientAVG.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s r ) r
Útorch.nnr Únumpyr r Zflcore.clients.clientbaser r r r r r Ú<module> s
| 1,692 | Python | .pyt | 20 | 83.45 | 306 | 0.472803 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,912 | clientbn.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientbn.cpython-38.pyc | U
zgc› ã @ sD d dl Z d dlmZ d dlZd dlZd dlmZ G dd„ deƒZdS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )ÚclientBNc s> t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ d S )N)Úlr) ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© õC D:\京东\promot\cifar\cifar\tiny\system\flcore\clients\clientbn.pyr
s
zclientBN.__init__c C s” | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}t |ƒD ]Æ}t |ƒD ]¸\}\}}t
|ƒt
g ƒkrŒ|d | j¡|d< n | | j¡}| | j¡}| jrÄt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j�rt| j|t|ƒƒ qZ| j ¡ qZqN| j ¡ | jd d7 < | jd t ¡ | 7 < | j�r�t| jƒ\}
} t d| j › �d|
d d ›d
| › d |
d › �ƒ d S ) Né é r gš™™™™™¹?Ú
num_roundsÚ
total_costzClient u (ε = z.2fu , δ = u ) for α = ) Úload_train_dataÚtimer
ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚprivacyÚdp_stepÚlenÚstepÚcpuÚtrain_time_costZ
get_dp_paramsÚprintr ) r Ú trainloaderÚ
start_timeÚmax_local_stepsr4 ÚiÚxÚyÚoutputr ÚresZDELTAr r r r# s8
zclientBN.trainc C s> t | ¡ | j ¡ ƒD ]$\\}}\}}d|kr|j ¡ |_qd S )NÚbn)ÚzipÚnamed_parametersr
ÚdataÚclone)r r
r r& ÚonÚopr r r Úset_parameters< s $zclientBN.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r# rG Ú
__classcell__r r r r r s 'r ) r
Útorch.nnr Únumpyr& r Úflcore.clients.clientbaser r r r r r Ú<module> s
| 2,065 | Python | .pyt | 22 | 92.727273 | 293 | 0.446184 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,913 | clientmoonpt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientmoonpt.cpython-38.pyc | U
éÿcà ã @ s~ d dl Z d dlZd dlmZ d dlZd dlZd dlm mZ d dl
m Z d dl Z d dl m
Z
d dlmZ G dd„ de ƒZdS )é N)ÚClient)Úlabel_binarize)Úmetricsc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) Ú clientMOONPTc s¾ t ƒ j||||f|� t ¡ | _tj | jj
¡ | j dœ| jj
¡ | j dœg¡| _
|j| _tjj| jj
¡ |j|jd�| _tjjj| j| j|jd�| _|j| _|j| _d | _t | j¡| _ d S )N)ÚparamsÚlr)r Úmomentum)Ú step_sizeÚgamma) ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚbaseÚ
parametersÚ
learning_rateÚ predictorÚ optimizerÚ plocal_stepsÚ generatorÚpt_learning_rater Ú
poptimizerÚ lr_schedulerÚStepLRÚlearning_decayÚ schedulerÚtauÚmuÚ global_modelÚcopyÚdeepcopyÚ old_model)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© õd D:\京东\promot\第二次投稿\å®�验\æœ�务器\native - pro\system\flcore\clients\clientmoonpt.pyr s"
şÿÿzclientMOONPT.__init__c C sÚ | ¡ }t ¡ }t | jj¡}| j | j¡ | j | j¡ | j | j¡ | j
¡ | jj ¡ D ]
}d|_
q^| jj ¡ D ]
}d|_
qv| jj ¡ D ]
}d|_
q�t| jƒD ]¶}t|ƒD ]¨\}\}}t|ƒtg ƒkrâ|d | j¡|d< n | | j¡}| | j¡}| j�r t dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j ¡ | j ¡ q°q¤| j } | j�r|tj d| d ¡} | jj ¡ D ] }d|_
�qˆ| jj ¡ D ] }d|_
�q¢| jj ¡ D ] }d|_
�q¼t| ƒD �]F}t|ƒD �]4\}\}}t|ƒtg ƒk�r|d | j¡|d< n | | j¡}| | j¡}| j�rPt dt tj ¡ ¡ ¡ | j! ¡ | j |¡} | j | ¡} | | |¡}
| j |¡ "¡ }
| j |¡ "¡ }t# $t# %t& '| |¡| j( ¡t# %t& '| |¡| j( ¡t# %t& '| |
¡| j( ¡ ¡ }|
| j)t# *|¡ 7 }
|
¡ | j! ¡ �qà�qÒ| j +¡ | j +¡ | j +¡ t | j¡| _ t | jj¡}d}t,| ¡ | ¡ ƒD ]<\}}|| }t# -|dk|t# .|¡| ¡}|t# /|¡ }�ql| j0d d7 < | j0d t ¡ | 7 < |S ) NFTr gš™™™™™¹?é é Ú
num_roundsÚ
total_cost)1Úload_train_dataÚtimer$ r% r r ÚtoÚdevicer# r& Útrainr r Ú
requires_gradr Úranger Ú enumerateÚtypeÚ
train_slowÚsleepÚnpÚabsÚrandomÚrandr Ú zero_gradr ÚbackwardÚstepr Ú local_stepsÚrandintr Údetachr ÚlogÚexpÚFÚcosine_similarityr! r" ÚmeanÚcpuÚzipÚwhereÚ
zeros_likeÚsumÚtrain_time_cost)r' Ú trainloaderÚ
start_timeÚ
old_promptÚparamrF ÚiÚxÚyÚoutputr Úmax_local_stepsÚrepÚrep_oldÚ
rep_globalÚloss_conÚ
new_promptÚ
diff_provalueÚ new_paramÚ old_paramÚdiff_pror/ r/ r0 r9 + s�
ÿÿ
zclientMOONPT.trainc C sf t |j ¡ | jj ¡ ƒD ]\}}|j ¡ |_qt |j ¡ | jj ¡ ƒD ]\}}|j ¡ |_qF|| _d S )N)rP r r r ÚdataÚcloner r# )r' r rd re r/ r/ r0 Úset_parameters s
zclientMOONPT.set_parametersc C s~ | ¡ }| j | j¡ | j ¡ d}d}d}g }g }t ¡ �ú |D ]î\}}t|ƒtg ƒkrp|d | j¡|d< n | | j¡}| | j¡}| |¡} | j | j |¡¡}
|t
tj | dd�|k¡ ¡ 7 }|t
tj |
dd�|k¡ ¡ 7 }||j
d 7 }| | ¡ ¡ ¡ ¡ | t| ¡ ¡ ¡ t | j¡d�¡ qBW 5 Q R X | j ¡ tj|dd�}tj|dd�}tj||dd�} |||| fS )Nr r1 )Údim)Úclasses)ÚaxisÚmicro)Úaverage)Úload_test_datar r7 r8 Úevalr Úno_gradr= r r rS ÚargmaxÚitemÚshapeÚappendrI rO Únumpyr r@ ÚarangeÚ num_classesÚ concatenater Ú
roc_auc_score) r' ÚtestloaderfullÚtest_accÚ test_acc2Útest_numÚy_probÚy_truerZ r[ r\ Úoutput2Úaucr/ r/ r0 Ú test_metrics† s4
2
zclientMOONPT.test_metrics)Ú__name__Ú
__module__Ú __qualname__r r9 ri rƒ Ú
__classcell__r/ r/ r- r0 r s Tr )r$ r Útorch.nnr
rv r@ r6 Útorch.nn.functionalÚ
functionalrL Úflcore.clients.clientbaser Úsklearn.preprocessingr Úsklearnr r r/ r/ r/ r0 Ú<module> s | 4,417 | Python | .pyt | 49 | 88.877551 | 555 | 0.413596 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,914 | clientamp.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientamp.cpython-37.pyc | B
ü
fc ã @ sT d dl Z d dlmZ d dlmZ d dlZd dlZd dlZG dd„ deƒZ dd„ Z
dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientAMPc s\ t ƒ j||||f|� |j| _|j| _t | j¡| _t ¡ | _
t j j
| j ¡ | jd�| _d S )N)Úlr)ÚsuperÚ__init__ÚalphaKÚlamdaÚcopyÚdeepcopyÚmodelÚclient_uÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚ
parametersÚ
learning_rateÚ optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs)Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientamp.pyr
s
zclientAMP.__init__c C sŠ | ¡ }t ¡ }| j | j¡ | j | j¡ | j ¡ | j}| jrTt j
d|d ¡}xît |ƒD ]â}xÜ|D ]Ô\}}t
|ƒt
g ƒkr–|d | j¡|d< n | | j¡}| | j¡}| jrÎt dt t j
¡ ¡ ¡ | j ¡ | |¡}| ||¡}t| jƒ} t| jƒ}
| |
} || j| j d t | | ¡ 7 }| ¡ | j ¡ qhW q^W | j ¡ | j ¡ ~| j d d7 < | j d t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost) Úload_train_dataÚtimer ÚtoÚdevicer ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚtypeÚsleepÚabsÚrandr Ú zero_gradr Úweight_flattenr r r ÚdotÚbackwardÚstepÚcpuÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚmax_local_stepsr6 ÚxÚyÚoutputr ÚparamsÚparams_Úsubr r r r' s<
zclientAMP.trainc C s< x6t | ¡ | j ¡ ƒD ] \}}|j||j ¡ |_qW d S )N)Úzipr r ÚdataÚclone)r r Ú coef_selfÚ new_paramÚ old_paramr r r Úset_parameters? s zclientAMP.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r' rH Ú
__classcell__r r )r r r s
+r c C s4 g }x | ¡ D ]}| | d¡¡ qW t |¡}|S )Néÿÿÿÿ)r ÚappendÚviewr Úcat)r r? Úur r r r3 D s
r3 ) r Útorch.nnr
Úflcore.clients.clientbaser Únumpyr* r$ r r r3 r r r r Ú<module> s ; | 2,256 | Python | .pyt | 27 | 82.37037 | 269 | 0.436323 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,915 | clientdyn.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientdyn.cpython-37.pyc | B
È:cc ã @ sT d dl Z d dlZd dlmZ d dlZd dlZd dlmZ G dd„ deƒZ dd„ Z
dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientDync sl t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ |j | _ d | _
t | j¡}t|ƒ}t |¡| _d S )N)Úlr)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizerÚalphaÚglobal_model_vectorÚcopyÚdeepcopyÚmodel_parameter_vectorÚ
zeros_likeÚold_grad)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargsr )Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientdyn.pyr s
zclientDyn.__init__c C sğ | ¡ }t ¡ }| j | j¡ | j | j¡| _| j | j¡| _| j ¡ | j}| j rft
j d|d ¡}�xt
|ƒD ]ö}xğt|ƒD ]ä\}\}}t|ƒtg ƒkr²|d | j¡|d< n | | j¡}| | j¡}| j rêt dt
t
j ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | jd k�rRt| jƒ}
| | jd t |
| j d¡ 7 } | t |
| j¡8 } | ¡ | j ¡ q€W qrW | jd k�r�t| jƒ ¡ }
| j| j|
| j | _| j ¡ | j ¡ | _| j ¡ | _| j d d7 < | j d t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost) Úload_train_dataÚtimer
ÚtoÚdevicer r ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr r r r
ÚnormÚdotÚbackwardÚstepÚdetachÚcpuÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚmax_local_stepsr9 ÚiÚxÚyÚoutputr Úv1r r r r) sD
zclientDyn.trainc C sD x,t | ¡ | j ¡ ƒD ]\}}|j ¡ |_qW t|ƒ ¡ ¡ | _d S )N)Úzipr r
ÚdataÚcloner r: r )r r
Ú new_paramÚ old_paramr r r Úset_parametersO s zclientDyn.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r) rJ Ú
__classcell__r r )r r r
s 1r c C s dd„ | ¡ D ƒ}tj|dd�S )Nc S s g | ]}| d ¡‘qS )éÿÿÿÿ)Úview)Ú.0Úpr r r ú
<listcomp>W s z*model_parameter_vector.<locals>.<listcomp>r )Údim)r r
Úcat)r
Úparamr r r r V s r ) r r
Útorch.nnr Únumpyr, r& Úflcore.clients.clientbaser r r r r r r Ú<module> s L | 2,573 | Python | .pyt | 30 | 84.7 | 285 | 0.430031 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,916 | clientbase.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientbase.cpython-39.pyc | a
W¢bc ã @ s‚ d dl Z d dlZd dlmZ d dlZd dlZd dlm mZ d dl
m Z d dl m
Z
d dlmZ d dlmZ G dd„ deƒZdS )é N)Ú
DataLoader)Úlabel_binarize)Úmetrics)Úread_client_datac @ sh e Zd ZdZdd„ Zddd„Zddd„Zd d
„ Zd d „ Zd
d„ Z dd„ Z
dd„ Z ddd„Z ddd„Z
dS )ÚClientz7
Base class for clients in federated learning.
c K sÒ t |j¡| _|j| _|j| _|| _|j| _|j| _|| _|| _ |j
| _
|j | _ |j
| _
d| _| j ¡ D ]}t|tjƒrhd| _ q„qh|d | _|d | _dddœ| _dddœ| _|j| _|j| _| j
| j | _d S )NFTÚ
train_slowÚ send_slowr g )Ú
num_roundsÚ
total_cost)ÚcopyÚdeepcopyÚmodelÚdatasetÚdeviceÚidÚsave_folder_nameÚ num_classesÚ
train_samplesÚ test_samplesÚ
batch_sizeÚlocal_learning_rateÚ
learning_rateÚ local_stepsZ
has_BatchNormÚchildrenÚ
isinstanceÚnnÚ BatchNorm2dr r Útrain_time_costZsend_time_costÚprivacyZdp_sigmaÚ sample_rate)ÚselfÚargsr r r ÚkwargsÚlayer© r$ ús/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientbase.pyÚ__init__ s.
zClient.__init__Nc C s0 |d kr| j }t| j| jdd�}t||ddd�S )NT©Zis_train©Ú drop_lastÚshuffle©r r r r r )r r Ú
train_datar$ r$ r% Úload_train_data1 s zClient.load_train_datac C s0 |d kr| j }t| j| jdd�}t||ddd�S )NFr' Tr( r+ )r r Ú test_datar$ r$ r% Úload_test_data7 s zClient.load_test_datac C s. t | ¡ | j ¡ ƒD ]\}}|j ¡ |_qd S ©N)ÚzipÚ
parametersr
ÚdataÚclone)r r
Ú new_paramÚ old_paramr$ r$ r% Úset_parameters= s zClient.set_parametersc C s, t | ¡ | ¡ ƒD ]\}}|j ¡ |_qd S r0 ©r1 r2 r3 r4 )r r
ÚtargetÚparamZ target_paramr$ r$ r% Ú clone_modelA s zClient.clone_modelc C s( t | ¡ |ƒD ]\}}|j ¡ |_qd S r0 r8 )r r
Ú
new_paramsr: r5 r$ r$ r% Úupdate_parametersF s zClient.update_parametersc
C sZ | ¡ }| j | j¡ | j ¡ d}d}g }g }t ¡ �Ğ |D ]º\}}t|ƒtg ƒkrl|d | j¡|d< n | | j¡}| | j¡}| |¡}|t tj |dd�|k¡
¡ 7 }||j d 7 }| |
¡ ¡ ¡ ¡ | t|
¡ ¡ ¡ t | j¡d�¡ q>W d ƒ n1 �s0 Y | j ¡ tj|dd�}tj|dd�}tj||dd�} ||| fS )Nr é )Údim)Úclasses)ÚaxisÚmicro)Úaverage)r/ r
Útor ÚevalÚtorchÚno_gradÚtypeÚsumÚargmaxÚitemÚshapeÚappendÚdetachÚcpuÚnumpyr ÚnpÚaranger Ú concatenater Z
roc_auc_score)
r ZtestloaderfullZtest_accZtest_numZy_probZy_trueÚxÚyÚoutputZaucr$ r$ r% Ú test_metricsJ s.
H
zClient.test_metricsc C s¼ | ¡ }| j | j¡ | j ¡ d}d}|D ]|\}}t|ƒtg ƒkrZ|d | j¡|d< n | | j¡}| | j¡}| |¡}||jd 7 }|| ||¡ ¡ |jd 7 }q,| j ¡ ||fS )Nr )
r- r
rD r rE rH rL ÚlossrK rO )r Ú trainloaderZ train_numrX rT rU rV r$ r$ r% Ú
train_metricsn s
zClient.train_metricsc C sT |d kr| j }tj |¡s$t |¡ t |tj |dt| j ƒ d | d ¡¡ d S ©NZclient_Ú_z.pt)
r ÚosÚpathÚexistsÚmakedirsrF ÚsaveÚjoinÚstrr )r rK Ú item_nameÚ item_pathr$ r$ r% Ú save_item– s
zClient.save_itemc C s8 |d kr| j }t tj |dt| jƒ d | d ¡¡S r[ )r rF Úloadr] r^ rb rc r )r rd re r$ r$ r% Ú load_item� s zClient.load_item)N)N)N)N)Ú__name__Ú
__module__Ú __qualname__Ú__doc__r& r- r/ r7 r; r= rW rZ rf rh r$ r$ r$ r% r
s
$(
r )r rF Útorch.nnr rP rQ r] Útorch.nn.functionalÚ
functionalÚFÚtorch.utils.datar Zsklearn.preprocessingr Zsklearnr Zutils.data_utilsr Úobjectr r$ r$ r$ r% Ú<module> s | 4,448 | Python | .pyt | 40 | 109.925 | 425 | 0.432978 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,917 | clientfomo.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientfomo.cpython-39.pyc | a
f¾`c· ã @ sd d dl Z d dlmZ d dlZd dlZd dlZd dlmZ d dl m
Z
d dl m Z G dd„ deƒZ
dS )é N)ÚClient)Ú
DataLoader)Úread_client_datac sn e Zd Z‡ fdd„Zdd„ Zddd„Zdd „ Zd
d „ Zd d
„ Zdd„ Z dd„ Z
dd„ Z dd„ Z dd„ Z
‡ ZS )Ú
clientFomoc s� t ƒ j||||fi |¤� |j| _t | j¡| _g | _g | _t j
| j| j d�| _ t
¡ | _t jj| j ¡ | jd�| _d| _| jd| j | _d S )N)Údevice)Úlrgš™™™™™É?é )ÚsuperÚ__init__Ú num_clientsÚcopyÚdeepcopyÚmodelÚ old_modelÚ received_idsÚreceived_modelsÚtorchÚzerosr Ú
weight_vectorÚnnÚCrossEntropyLossÚlossÚoptimÚSGDÚ
parametersÚ
learning_rateÚ optimizerÚ val_ratioÚ
train_samples)ÚselfÚargsÚidr Ú test_samplesÚkwargs©Ú __class__© ús/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientfomo.pyr
s
zclientFomo.__init__c
C s2 | ¡ \}}t ¡ }| |¡ | | j| j¡ | j ¡ | j}| jrVt j
d|d ¡}t |ƒD ]¢}|D ]˜\}}t
|ƒt
g ƒkr”|d | j¡|d< n | | j¡}| | j¡}| jrÌt dt t j
¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ qfq^| jd d7 < | jd t ¡ | 7 < d S )Nr é r gš™™™™™¹?Ú
num_roundsÚ
total_cost)Úload_train_dataÚtimeÚaggregate_parametersÚ clone_modelr r ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚtypeÚtor ÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚstepÚtrain_time_cost)
r Ú trainloaderÚ
val_loaderÚ
start_timeÚmax_local_stepsr= ÚxÚyÚoutputr r& r& r' r/ s.
zclientFomo.trainNc C sz |d kr| j }t| j| jdd�}t| jt|ƒ ƒ }||d … }|d |… }t|| j ddd�}t|| j | jdd�}||fS )NT)Úis_train)Ú drop_lastÚshuffle) Ú
batch_sizer Údatasetr! Úintr Úlenr Ú
has_BatchNorm)r rI Ú
train_dataÚval_idxZval_datar? r@ r& r& r' r+ ? s zclientFomo.load_train_datac C s¨ | ¡ \}}| j ¡ d}d}|D ]|\}}t|ƒtg ƒkrP|d | j¡|d< n | | j¡}| | j¡}| |¡}||jd 7 }|| ||¡ ¡ |jd 7 }q"||fS ©Nr ) r+ r Úevalr6 r7 r Úshaper Úitem)r r? r@ Ú train_numr rC rD rE r& r& r' Ú
train_metricsL s
zclientFomo.train_metricsc C s || _ || _d S ©N)r r )r ÚidsÚmodelsr& r& r' Úreceive_modelsc s zclientFomo.receive_modelsc C s– g }| | j|¡}| jD ]h}g }t| ¡ | j ¡ ƒD ] \}}| || d¡¡ q4t |¡}| || ||¡ t |¡d ¡ q|
|¡ t |¡S )Néÿÿÿÿgñh㈵øä>) Úrecalculate_lossr r Úzipr ÚappendÚviewr ÚcatÚnormÚweight_vector_updateÚtensor)r r@ Ú weight_listÚLÚreceived_modelZ
params_difZparam_nZparam_ir& r& r' Ú
weight_calg s
&
zclientFomo.weight_calc C sT t | j¡| _t|| jƒD ] \}}| j| | ¡ 7 < qt | j¡ | j
¡| _d S rV ) r2 r r r r\ r rS r rb r7 r )r rc Úwr! r& r& r' ra ‚ s z clientFomo.weight_vector_updatec C s| d}|D ]f\}}t |ƒt g ƒkr6|d | j¡|d< n | | j¡}| | j¡}||ƒ}| ||¡}|| ¡ 7 }q|t|ƒ S rP )r6 r7 r r rS rL )r Z new_modelr@ rd rC rD rE r r& r& r' r[ Œ s zclientFomo.recalculate_lossc C s: t | j ¡ | ¡ ƒD ] \}}| j|j ¡ | 7 _qd S rV )r\ r r ÚdataÚclone)r rg re ÚparamZreceived_paramr& r& r' Úadd_parametersš s zclientFomo.add_parametersc C s\ | | |¡¡}t|ƒdkrX| j ¡ D ]}|j ¡ q&t|| jƒD ]\}}| ||¡ qBd S rP )
Ú weight_scalerf rL r r rh Úzero_r\ r rk )r r@ Úweightsrj rg re r& r& r' r- � s z clientFomo.aggregate_parametersc sN t |t d¡¡}t |¡‰ ˆ dkr@‡ fdd„|D ƒ}t |¡S t g ¡S d S )Nr c s g | ] }|ˆ ‘qS r& r& )Ú.0rg ©Úw_sumr& r' Ú
<listcomp>¬ ó z+clientFomo.weight_scale.<locals>.<listcomp>)r Úmaximumrb Úsum)r rn r& rp r' rl ¨ s
zclientFomo.weight_scale)N)Ú__name__Ú
__module__Ú __qualname__r
r/ r+ rU rY rf ra r[ rk r- rl Ú
__classcell__r& r& r$ r' r s #
r )r Útorch.nnr Únumpyr2 r, r Úflcore.clients.clientbaser Útorch.utils.datar Úutils.data_utilsr r r& r& r& r' Ú<module> s | 5,040 | Python | .pyt | 45 | 110.844444 | 841 | 0.410729 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,918 | clientphp.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientphp.cpython-38.pyc | U
”jfcX ã @ sV d dl Z d dlZd dlmZ d dlZd dlZd dlmZ G dd„ deƒZ ddd„Z
dS ) é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientPHPc sx t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ |j |j
| _ |j| _t | j¡| _| j ¡ D ]
}d|_qhd S )N)ÚlrF)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizerÚmuÚ
global_roundsÚlamdaÚcopyÚdeepcopyÚmodel_sÚ
requires_grad)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargsÚparam©Ú __class__© õK D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\clients\clientphp.pyr s
zclientPHP.__init__c
C s€ | ¡ }t ¡ }| j | j¡ | j | j¡ | j ¡ | j}| jrTt j
d|d ¡}t |ƒD ]Ş}t
|ƒD ]Ğ\}\}}t|ƒtg ƒkrš|d | j¡|d< n | | j¡}| | j¡}| jrÒt dt t j
¡ ¡ ¡ | j ¡ | |¡}| ||¡d| j } | t| j |¡| j |¡d| jƒ| j 7 } | ¡ | j ¡ qhq\| j ¡ | j ¡ | jd d7 < | jd t ¡ | 7 < d S )Né é r gš™™™™™¹?ÚrbfÚ
num_roundsÚ
total_cost) Úload_train_dataÚtimer
ÚtoÚdevicer ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr r ÚMMDÚbaseÚbackwardÚstepÚcpuÚtrain_time_cost)
r Ú trainloaderÚ
start_timeÚmax_local_stepsr< ÚiÚxÚyÚoutputr r! r! r" r, s4
*
zclientPHP.trainc C sl | j | }t| ¡ | j ¡ ƒD ]\}}|j ¡ |_q t| ¡ | j ¡ ƒD ] \}}|d| || |_qHd S )Nr# )r Úzipr r ÚdataÚcloner
)r r
ÚRr Ú new_paramÚ old_paramr! r! r" Úset_parameters< s
zclientPHP.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r, rL Ú
__classcell__r! r! r r" r
s #r r= c C sÀ t | | ¡ ¡t || ¡ ¡t | | ¡ ¡ }}}| ¡ d¡ |¡}| ¡ d¡ |¡}| ¡ | d| } | ¡ | d| }
| ¡ | d| } t |j¡ |¡t |j¡ |¡t |j¡ |¡ } }
}|dk�rFddddg}|D ]X}| |d |d | d 7 } |
|d |d |
d 7 }
||d |d | d 7 }qì|d
k�rªd d d
dg}|D ]H}| t d| | ¡7 } |
t d|
| ¡7 }
|t d| | ¡7 }�q`t
| |
d| ¡S )a Emprical maximum mean discrepancy. The lower the result
the more evidence that distributions are the same.
Args:
x: first sample, distribution P
y: second sample, distribution Q
kernel: kernel type such as "multiscale" or "rbf"
r g @Z
multiscalegš™™™™™É?g à?gÍÌÌÌÌÌì?gÍÌÌÌÌÌô?r$ éÿÿÿÿr% é
é é é2 g à¿) r
ÚmmÚtÚdiagÚ unsqueezeÚ expand_asÚzerosÚshaper* ÚexpÚmean)rC rD Úkernelr+ ÚxxÚyyÚzzÚrxÚryZdxxZdyyZdxyÚXXÚYYZXYZbandwidth_rangeÚar! r! r" r9 F s. 4ş
r9 )r= ) r r
Útorch.nnr Únumpyr/ r) Úflcore.clients.clientbaser r r9 r! r! r! r" Ú<module> s < | 3,313 | Python | .pyt | 42 | 76.809524 | 284 | 0.420361 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,919 | clientt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientt.cpython-38.pyc | U
œMgcÜ ã @ sL d dl Z d dlmZ d dlZd dlZd dlmZ d dlZG dd„ deƒZ dS )é N)ÚClientc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) ÚclientTc sl t ƒ j||||f|� t ¡ | _tjj| jj
¡ | j d�| _ tjj| jj
¡ | j d�| _| ¡ |j| _d S )N)Úlr)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ generatorÚ
parametersÚ
learning_rateÚ
poptimizerÚbaseÚ optimizerÚser_paraÚ plocal_steps)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© õB D:\京东\promot\cifar\cifar\tiny\system\flcore\clients\clientt.pyr
s
zclientT.__init__c C sx t | j¡ t | jjjj¡| jjj_t | jjjj¡| jjj_t | jjj j¡| jjj _t | jjj
j¡| jjj
_d S ©N) r
Ú manual_seedr Ú rand_liker
r Zpad_downÚdataÚpad_leftÚ pad_rightZpad_up)r r r r r s
zclientT.ser_parac C sÖ | ¡ }t ¡ }t | jj¡}| j | j¡ | j ¡ | j }| j
rTt j
d|d ¡}| jj ¡ D ]
}d|_q`| jj ¡ D ]
}d|_qxt|ƒD ]¬}t|ƒD ]�\}\}} t|ƒtg ƒkrÊ|d | j¡|d< n | | j¡}| | j¡} | j
�rt dt t j ¡ ¡ ¡ | j ¡ | |¡}
| |
| ¡} | ¡ | j ¡ q˜qŒ| j ¡ t | jj¡} d}
t | ¡ | ¡ ƒD ]<\}}|| }t |dk|t |¡| ¡}|
t !|¡ }
�qh| j"d d7 < | j"d t ¡ | 7 < |
S ) Né é TFr gš™™™™™¹?Ú
num_roundsÚ
total_cost)#Úload_train_dataÚtimeÚcopyÚdeepcopyr
r ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintr r Ú
requires_gradÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚstepÚcpuÚzipr
ÚwhereÚ
zeros_likeÚsumÚtrain_time_cost)r Ú trainloaderÚ
start_timeÚ
old_promptÚmax_local_stepsÚparamr? ÚiÚxÚyÚoutputr Ú
new_promptÚ
diff_provalueÚ new_paramÚ old_paramÚdiff_pror r r r0 sF
z
clientT.trainc C s0 t | ¡ | jj ¡ ƒD ]\}}|j ¡ |_qd S r )rA r r
r r# Úclone)r r rQ rR r r r Úset_parametersO s zclientT.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r r0 rU Ú
__classcell__r r r r r s 0r )
r
Útorch.nnr Únumpyr3 r+ Úflcore.clients.clientbaser r, r r r r r Ú<module> s | 2,593 | Python | .pyt | 32 | 79.875 | 304 | 0.440281 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,920 | clientavg.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientavg.cpython-37.pyc | B
È:ccª ã @ sD d dl Z d dlmZ d dlZd dlZd dlmZ G dd„ deƒZdS )é N)ÚClientc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )Ú clientAVGc s> t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ d S )N)Úlr) ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersZ
learning_rateÚ optimizer)ÚselfÚargsÚidZ
train_samplesZ test_samplesÚkwargs)Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientavg.pyr
s
zclientAVG.__init__c
C sX | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}xÖt |ƒD ]Ê}xÄt |ƒD ]¸\}\}}t
|ƒt
g ƒkr�|d | j¡|d< n | | j¡}| | j¡}| jrÈt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j�r t| j|t|ƒƒ q^| j ¡ q^W qPW | j ¡ | jd d7 < | jd t ¡ | 7 < d S )Né é r gš™™™™™¹?Z
num_roundsÚ
total_cost)Zload_train_dataÚtimer
ÚtoÚdeviceÚtrainÚ local_stepsZ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardZprivacyZdp_stepÚlenÚstepÚcpuZtrain_time_cost)
r Z trainloaderÚ
start_timeZmax_local_stepsr+ ÚiÚxÚyÚoutputr r r r r s2
zclientAVG.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r )r r r s r ) r
Útorch.nnr Únumpyr r Zflcore.clients.clientbaser r r r r r Ú<module> s
| 1,638 | Python | .pyt | 20 | 80.75 | 314 | 0.46572 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,921 | clientper.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientper.cpython-37.pyc | B
vùec€ ã @ sL d dl Z d dlZd dlmZ d dlZd dlZd dlmZ G dd„ deƒZ dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientPerc s> t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ d S )N)Úlr) ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs)Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientper.pyr
s
zclientPer.__init__c
C s< | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}xºt |ƒD ]®}x¨t |ƒD ]œ\}\}}t
|ƒt
g ƒkr�|d | j¡|d< n | | j¡}| | j¡}| jrÈt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ q^W qPW | j ¡ | jd d7 < | jd t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost)Úload_train_dataÚtimer
ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚstepÚcpuÚtrain_time_cost)
r Ú trainloaderÚ
start_timeÚmax_local_stepsr0 ÚiÚxÚyÚoutputr r r r r" s.
zclientPer.trainc C s4 x.t | ¡ | jj ¡ ƒD ]\}}|j ¡ |_qW d S )N)Úzipr r
ÚbaseÚdataÚclone)r r
Ú new_paramÚ old_paramr r r Úset_parameters0 s zclientPer.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r" r@ Ú
__classcell__r r )r r r s r )
Úcopyr
Útorch.nnr Únumpyr% r Úflcore.clients.clientbaser r r r r r Ú<module> s | 1,835 | Python | .pyt | 20 | 90.6 | 290 | 0.461454 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,922 | clientbabu.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientbabu.cpython-39.pyc | a
f¾`cÊ
ã @ sL d dl Z d dlZd dlmZ d dlZd dlZd dlmZ G dd„ deƒZ dS )é N)ÚClientc s< e Zd Z‡ fdd„Zdd„ Zdd„ Zddgfd d
„Z‡ ZS ) Ú
clientBABUc sd t ƒ j||||fi |¤Ž t ¡ | _tjj| jj
¡ | j d�| _ |j
| _
| jj
¡ D ]
}d|_qTd S )N)ÚlrF)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚbaseÚ
parametersÚ
learning_rateÚ optimizerÚfine_tuning_stepsÚ predictorÚ
requires_grad)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargsÚparam©Ú __class__© ús/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientbabu.pyr
s
zclientBABU.__init__c
C s | ¡ }t ¡ }| j ¡ | j}| jr8tj d|d ¡}t |ƒD ]ª}t
|ƒD ]œ\}\}}t |ƒt g ƒkr~|d | j
¡|d< n | | j
¡}| | j
¡}| jr¶t dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ qLq@| jd d7 < | jd t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost)Úload_train_dataÚtimer
ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚtoÚdeviceÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚstepÚtrain_time_cost)
r Ú trainloaderÚ
start_timeÚmax_local_stepsr6 ÚiÚxÚyÚoutputr r r r r& s*
zclientBABU.trainc C s0 t | ¡ | jj ¡ ƒD ]\}}|j ¡ |_qd S )N)Úzipr r
r ÚdataÚclone)r r Ú new_paramÚ old_paramr r r Úset_parameters6 s zclientBABU.set_parametersr r c
C sì | ¡ }| j ¡ d|v r2| jj ¡ D ]
}d|_q&d|vrR| jj ¡ D ]
}d|_qFt| jƒD ]Š}t|ƒD ]|\}\}}t |ƒt g ƒkrš|d
| j ¡|d< n |
| j ¡}|
| j ¡}| j
¡ | |¡}| ||¡} | ¡ | j ¡ qhq\d S )Nr Tr Fr )r$ r
r& r r r r, r r- r. r/ r0 r r4 r r5 r6 )
r Z which_moduler8 r r6 r; r< r= r> r r r r Ú fine_tune: s&
zclientBABU.fine_tune)Ú__name__Ú
__module__Ú __qualname__r r& rD rE Ú
__classcell__r r r r r s r )
Úcopyr
Útorch.nnr Únumpyr) r% Úflcore.clients.clientbaser r r r r r Ú<module> s | 2,521 | Python | .pyt | 34 | 72.941176 | 280 | 0.430868 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,923 | clientrod.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientrod.cpython-37.pyc | B
,fc± ã @ s€ d dl Z d dlZd dlmZ d dlZd dlZd dlmZ d dl m m
Z d dl m
Z
d dlmZ G dd„ deƒZd
dd „ZdS ) é N)ÚClient)Úlabel_binarize)Úmetricsc s. e Zd Z‡ fdd„Zdd„ Zddd„Z‡ ZS ) Ú clientRODc
s´ t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ t
| jj¡| _tjj| j ¡ | j
d�| _t | j¡| _| ¡ }x4|D ],\}}x"|D ]} | j| ¡ d7 < q�W q€W d S )N)Úlré )ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizerÚcopyÚdeepcopyÚ predictorÚpredÚopt_predÚzerosÚ num_classesÚsample_per_classÚload_train_dataÚitem)
ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargsÚ trainloaderÚxÚyÚyy)Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientrod.pyr
s
zclientROD.__init__c
C s‚ | ¡ }t ¡ }| j | j¡ | j | j¡ | j ¡ | j}| jrTt j
d|d ¡}xèt |ƒD ]Ü}xÖt
|ƒD ]Ê\}\}}t|ƒtg ƒkr�|d | j¡|d< n | | j¡}| | j¡}| j |¡}| j |¡} t|| | jƒ}
| j ¡ |
¡ | j ¡ | | ¡ ¡} | | ¡ | |¡} | j ¡ | ¡ | j ¡ qlW q^W | j ¡ | j ¡ | jd d7 < | jd t ¡ | 7 < d S )Nr é r Ú
num_roundsÚ
total_cost) r Útimer ÚtoÚdevicer ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚbaser Úbalanced_softmax_lossr r Ú zero_gradÚbackwardÚstepÚdetachr r ÚcpuÚtrain_time_cost)
r r$ Ú
start_timeÚmax_local_stepsr> Úir% r& ÚrepÚout_gZloss_bsmÚout_pr r) r) r* r1 s:
zclientROD.trainNc C sÜ | ¡ }|d kr| j}| j | j¡ | j | j¡ | ¡ d}d}g }g }t ¡ ��8 �x.|D �]$\}}t|ƒtg ƒkr�|d | j¡|d< n | | j¡}| | j¡}| j |¡} | j
| ¡}
| | ¡ ¡} |
¡ | } |t tj
| dd�|k¡ ¡ 7 }||jd 7 }| t | ¡ ¡ ¡ ¡ ¡ | j}
| jdk�r<|
d7 }
t| ¡ ¡ ¡ t |
¡d�}| jdk�rz|d d …d d…f }| |¡ q^W W d Q R X | j ¡ | j ¡ tj|dd�}tj|dd�}tj||dd�}|||fS ) Nr r )Údimr+ )Úclasses)ÚaxisÚmicro)Úaverage) Úload_test_datar r/ r0 r Úevalr
Úno_gradr9 r: r r? ÚsumÚargmaxr ÚshapeÚappendÚFÚsoftmaxr@ Únumpyr r r4 ÚarangeÚ concatenater Ú
roc_auc_score)r r Ú
testloaderÚtest_accÚtest_numÚy_probÚy_truer% r& rE rF rG ÚoutputÚncÚlbÚaucr) r) r* Ú test_metricsD sH
zclientROD.test_metrics)N)Ú__name__Ú
__module__Ú __qualname__r r1 rc Ú
__classcell__r) r) )r( r* r s 'r Úmeanc C sB | |¡}| d¡ |jd d¡}|| ¡ }tj|| |d�}|S )a} Compute the Balanced Softmax Loss between `logits` and the ground truth `labels`.
Args:
labels: A int tensor of size [batch].
logits: A float tensor of size [batch, no_of_classes].
sample_per_class: A int tensor of size [no of classes].
reduction: string. One of "none", "mean", "sum"
Returns:
loss: A float tensor. Balanced Softmax Loss.
r éÿÿÿÿ)ÚinputÚtargetÚ reduction)Útype_asÚ unsqueezeÚexpandrR ÚlogrT Ú
cross_entropy)ÚlabelsÚlogitsr rl Zspcr r) r) r* r; t s
r; )rh )r r
Útorch.nnr
rV r4 r. Úflcore.clients.clientbaser Útorch.nn.functionalÚ
functionalrT Úsklearn.preprocessingr Úsklearnr r r; r) r) r) r* Ú<module> s h | 3,840 | Python | .pyt | 43 | 87.139535 | 536 | 0.446932 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,924 | clientbn.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientbn.cpython-37.pyc | B
úec› ã @ sD d dl Z d dlmZ d dlZd dlZd dlmZ G dd„ deƒZdS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )ÚclientBNc s> t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ d S )N)Úlr) ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs)Ú __class__© úE/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientbn.pyr
s
zclientBN.__init__c C sœ | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}xÖt |ƒD ]Ê}xÄt |ƒD ]¸\}\}}t
|ƒt
g ƒkr�|d | j¡|d< n | | j¡}| | j¡}| jrÈt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j�r t| j|t|ƒƒ q^| j ¡ q^W qPW | j ¡ | jd d7 < | jd t ¡ | 7 < | j�r˜t| jƒ\}
} t d| j › �d|
d d ›d
| › d |
d › �ƒ d S ) Né é r gš™™™™™¹?Ú
num_roundsÚ
total_costzClient u (ε = z.2fu , δ = u ) for α = ) Úload_train_dataÚtimer
ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚprivacyÚdp_stepÚlenÚstepÚcpuÚtrain_time_costZ
get_dp_paramsÚprintr ) r Ú trainloaderÚ
start_timeÚmax_local_stepsr3 ÚiÚxÚyÚoutputr ÚresZDELTAr r r r" s8
zclientBN.trainc C sB x<t | ¡ | j ¡ ƒD ]$\\}}\}}d|kr|j ¡ |_qW d S )NÚbn)ÚzipÚnamed_parametersr
ÚdataÚclone)r r
r r% ÚonÚopr r r Úset_parameters< s &zclientBN.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r" rF Ú
__classcell__r r )r r r s 'r ) r
Útorch.nnr Únumpyr% r Úflcore.clients.clientbaser r r r r r Ú<module> s
| 2,058 | Python | .pyt | 22 | 92.409091 | 301 | 0.452626 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,925 | clientavgpt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientavgpt.cpython-38.pyc | U
ßıcß ã @ sd d dl Z d dlmZ d dlZd dlZd dlmZ d dlZd dl m
Z
d dl m Z G dd„ deƒZ
dS )é N)ÚClient)Úlabel_binarize)Úmetricsc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientAVGPTc s„ t ƒ j||||f|� t ¡ | _tjj| jj
¡ | j d�| _ |j
| _
tjj| jj
¡ |j|jd�| _tjjj| j| j
|jd�| _d S )N)Úlr)r Úmomentum)Ú step_sizeÚgamma)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚbaseÚ
parametersÚ
learning_rateÚ optimizerÚ plocal_stepsÚ generatorÚpt_learning_rater Ú
poptimizerÚ lr_schedulerÚStepLRÚlearning_decayÚ scheduler)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© õY D:\京东\promot\第二次投稿\å®�验\native - pro\system\flcore\clients\clientavgpt.pyr s
ÿÿzclientAVGPT.__init__c C sÒ | ¡ }t ¡ }t | jj¡}| j | j¡ | j ¡ | jj
¡ D ]
}d|_ qB| jj
¡ D ]
}d|_ qZt | j
ƒD ]´}t|ƒD ]¦\}\}}t|ƒtg ƒkr®|d | j¡|d< n | | j¡}| | j¡}| jræt dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j ¡ | j ¡ q|qp| j } | j�rFtj d| d ¡} | jj
¡ D ] }d|_ �qR| jj
¡ D ] }d|_ �qlt | ƒD ]²}t|ƒD ]¢\}\}}t|ƒtg ƒk�rÂ|d | j¡|d< n | | j¡}| | j¡}| j�rüt dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j ¡ �q��q‚| j ¡ t | jj¡} d}
t |
¡ |
¡ ƒD ]<\}}|| }t! "|dk|t! #|¡| ¡}|
t! $|¡ }
�qd| j%d d7 < | j%d t ¡ | 7 < |
S ) NFTr gš™™™™™¹?é é Ú
num_roundsÚ
total_cost)&Úload_train_dataÚtimeÚcopyÚdeepcopyr r ÚtoÚdeviceÚtrainr r Ú
requires_gradÚranger Ú enumerateÚtypeÚ
train_slowÚsleepÚnpÚabsÚrandomÚrandr Ú zero_gradr ÚbackwardÚstepr Ú local_stepsÚrandintr ÚcpuÚzipr ÚwhereÚ
zeros_likeÚsumÚtrain_time_cost)r Ú trainloaderÚ
start_timeÚ
old_promptÚparamr@ ÚiÚxÚyÚoutputr Úmax_local_stepsÚ
new_promptÚ
diff_provalueÚ new_paramÚ old_paramÚdiff_pror' r' r( r3 sj
zclientAVGPT.trainc C sv | ¡ }| j | j¡ | j ¡ d}d}d}g }g }t ¡ �ò |D ]æ\}}t|ƒtg ƒkrp|d | j¡|d< n | | j¡}| | j¡}| |¡} | j |¡}
|t tj
| dd�|k¡ ¡ 7 }|t tj
|
dd�|k¡ ¡ 7 }||j d 7 }|
| ¡ ¡ ¡ ¡ |
t| ¡ ¡ ¡ t | j¡d�¡ qBW 5 Q R X | j ¡ tj|dd�}tj|dd�}tj||dd�} |||| fS )Nr r) )Údim)Úclasses)ÚaxisÚmicro)Úaverage)Úload_test_datar r1 r2 Úevalr Úno_gradr7 r rG ÚargmaxÚitemÚshapeÚappendÚdetachrC Únumpyr r: ÚarangeÚ num_classesÚ concatenater Ú
roc_auc_score) r ÚtestloaderfullÚtest_accÚ test_acc2Útest_numÚy_probÚy_truerN rO rP Úoutput2Úaucr' r' r( Ú test_metricsc s4
2
zclientAVGPT.test_metrics)Ú__name__Ú
__module__Ú __qualname__r r3 rq Ú
__classcell__r' r' r% r( r
s Fr )r Útorch.nnr rd r: r. Úflcore.clients.clientbaser r/ Úsklearn.preprocessingr Úsklearnr r r' r' r' r( Ú<module> s | 3,486 | Python | .pyt | 47 | 72.851064 | 553 | 0.432558 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,926 | clientproto.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientproto.cpython-37.pyc | B
®ûec
ã @ s` d dl mZ d dlZd dlZd dlmZ d dlZd dlZd dl m
Z
G dd„ de
ƒZ dd„ Z dS )é )Ú defaultdictN)ÚClientc s> e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
d „Z‡ ZS )
Ú clientProtoc sx t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ t | jj
¡ ƒd jd | _d | _d | _t ¡ | _|j| _d S )N)Úlrr é )ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizerÚlistÚ predictorÚshapeZ feature_dimÚprotosÚ
global_protosÚMSELossÚloss_mseÚlamda)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs)Ú __class__© úH/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientproto.pyr s
zclientProto.__init__c C s | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}t t ƒ}�xrt
|ƒD �]d}�x\t|ƒD �]N\}\}}t|ƒtg ƒkr |d | j¡|d< n | | j¡}| | j¡}| jrØt dt tj ¡ ¡ ¡ | j ¡ | j |¡} | j | ¡}
| |
|¡} | jd k�rjt | ¡} x6t|ƒD ]*\}}
|
¡ }| j| j | |d d …f< �q&W | | | | ¡| j 7 } x>t|ƒD ]2\}}
|
¡ }|| | |d d …f ¡ j ¡ �qtW | !¡ | j "¡ qlW qZW | j #¡ t$|ƒ| _%| j&d d7 < | j&d t ¡ | 7 < d S )Nr é r gš™™™™™¹?Ú
num_roundsÚ
total_cost)'Úload_train_dataÚtimer ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintr r ÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradÚbaser r r r Ú
zeros_likeÚitemÚdatar r ÚappendÚdetachÚbackwardÚstepÚcpuÚagg_funcr Útrain_time_cost)r Ú trainloaderÚ
start_timeÚmax_local_stepsr r? ÚiÚxÚyÚrepÚoutputr Z proto_newÚyyÚy_cr" r" r# r+ sF
&
zclientProto.trainc C s t |¡| _d S )N)ÚcopyÚdeepcopyr )r r r" r" r# Ú
set_protosN s zclientProto.set_protosc C s | ¡ }| j | j¡ | j ¡ ttƒ}t ¡ �Ò xÊt |ƒD ]¾\}\}}t
|ƒt
g ƒkrn|d | j¡|d< n | | j¡}| | j¡}| j r¦t
dt tj ¡ ¡ ¡ | j ¡ | j |¡}x<t |ƒD ]0\}}| ¡ }|| ||d d …f ¡ j¡ qÆW q<W W d Q R X t|ƒ| _| j ¡ d S )Nr gš™™™™™¹?) r' r r) r* Úevalr r r Úno_gradr2 r3 r- r( r4 r. r5 r/ r6 r r7 r8 r: r< r= r; rA r r@ ) r rC r rF rG rH rI rK rL r" r" r# Úcollect_protosQ s&
2
zclientProto.collect_protosNc
C sL | ¡ }|d kr| j}| j | j¡ | ¡ d}d}t ¡ �ö xî|D ]æ\}}t|ƒtg ƒkrr|d | j¡|d< n | | j¡}| | j¡}| j |¡}t dƒt
|j d | j ¡ | j¡ }x@t
|ƒD ]4\} }
x*| j ¡ D ] \} } | |
| ¡|| | f< qØW qÄW |t tj|dd�|k¡ ¡ 7 }||j d 7 }qDW W d Q R X | j ¡ ||dfS )Nr Úinfr )Údim)Úload_test_datar r) r* rP r rQ r3 r8 ÚfloatÚonesr Ú num_classesr2 r Úitemsr ÚsumÚargminr: r@ )
r r Ú
testloaderÚtest_accÚtest_numrG rH rI rJ rF ÚrÚjÚpror" r" r# Ú test_metricsj s,
$
zclientProto.test_metrics)N) Ú__name__Ú
__module__Ú __qualname__r r+ rO rR rb Ú
__classcell__r" r" )r! r# r s
3r c C sj xd| ¡ D ]X\}}t|ƒdkrVd|d j }x|D ]}||j7 }q2W |t|ƒ | |< q
|d | |< q
W | S )z-
Returns the average of the weights.
r r )rY Úlenr; )r ÚlabelÚ
proto_listÚprotorF r" r" r# rA ‰ s
rA )
Ú collectionsr rM r Útorch.nnr Únumpyr. r( Úflcore.clients.clientbaser r rA r" r" r" r# Ú<module> s ~ | 4,011 | Python | .pyt | 44 | 89.886364 | 465 | 0.398438 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,927 | clientperavg.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientperavg.cpython-39.pyc | a
f¾`c‡ ã @ sX d dl Zd dlZd dlZd dlZd dlmZ d dlmZ d dl m
Z
G dd„ de
ƒZ dS )é N)ÚPerAvgOptimizer)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientPerAvgc sF t ƒ j||||fi |¤� | j| _t ¡ | _t| j ¡ | jd�| _
d S )N)Úlr) ÚsuperÚ__init__Ú
learning_rateÚbetaÚnnÚCrossEntropyLossÚlossr ÚmodelÚ
parametersÚ optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© úu/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientperavg.pyr s
zclientPerAvg.__init__c C sp | | jd ¡}t ¡ }| j ¡ | j}| jr@tj d|d ¡}t
|ƒD �]ô}|D �]è\}}t t
| j ¡ ƒ¡}t|ƒtg ƒkr¾d d g}|d d | j… | j¡|d< |d d | j… |d< n|d | j… | j¡}|d | j… | j¡} | j�r t dt tj ¡ ¡ ¡ | j ¡ | |¡}
| |
| ¡} | ¡ | j ¡ t|ƒtg ƒk�r�d d g}|d | jd … | j¡|d< |d | jd … |d< n|| jd … | j¡}|| jd … | j¡} | j�rÜt dt tj ¡ ¡ ¡ | j ¡ | |¡}
| |
| ¡} | ¡ t| j ¡ |ƒD ]\} }
|
j ¡ | _�q| jj| j d� qRqH| j d d7 < | j d t ¡ | 7 < d S )Né é r gš™™™™™¹?©r Ú
num_roundsÚ
total_cost) Úload_train_dataÚ
batch_sizeÚtimer
ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚcopyÚdeepcopyÚlistr ÚtypeÚtoÚdeviceÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚstepÚzipÚdataÚcloner Útrain_time_cost)r Ú trainloaderÚ
start_timeÚmax_local_stepsr4 ÚXÚYZ
temp_modelÚxÚyÚoutputr Ú old_paramÚ new_paramr r r r" sN
zclientPerAvg.trainc C s | | j¡}t|ƒ}| j ¡ t|ƒ\}}t|ƒtg ƒkrP|d | j¡|d< n | | j¡}| | j¡}| j
¡ | |¡}| ||¡}| ¡ | j
¡ t|ƒ\}}t|ƒtg ƒkrÌ|d | j¡|d< n | | j¡}| | j¡}| j
¡ | |¡}| ||¡}| ¡ | j j
| jd� d S )Nr r )Úload_test_datar Úiterr
r" Únextr, r- r. r r2 r r3 r4 r )r Z
testloaderZiter_testloaderr> r? r@ r r r r Útrain_one_stepN s.
zclientPerAvg.train_one_step)Ú__name__Ú
__module__Ú __qualname__r r" rF Ú
__classcell__r r r r r
s :r ) Únumpyr% Útorchr! r) Útorch.nnr
Ú flcore.optimizers.fedoptimizerr Úflcore.clients.clientbaser r r r r r Ú<module> s | 2,779 | Python | .pyt | 37 | 73.972973 | 230 | 0.406125 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,928 | clientapfl.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientapfl.cpython-37.pyc | B
Úfcâ
ã @ sL d dl Z d dlZd dlmZ d dlZd dlZd dlmZ G dd„ deƒZ dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú
clientAPFLc sn t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ |j | _ t
| j¡| _tjj| j ¡ | j
d�| _d S )N)Úlr)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizerÚalphaÚcopyÚdeepcopyÚ model_perÚ
optimizer_per)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs)Ú __class__© úG/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientapfl.pyr
s
zclientAPFL.__init__c C sÎ | ¡ }t ¡ }| j | j¡ | j | j¡ | j ¡ | j}| jrTt j
d|d ¡}xôt |ƒD ]è}xât
|ƒD ]Ö\}\}}t|ƒtg ƒkr�|d | j¡|d< n | | j¡}| | j¡}| jrÖt dt t j
¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ | j ¡ | |¡}
| |
|¡} | ¡ | j ¡ | ¡ qlW q^W x>t| j ¡ | j ¡ ƒD ]$\} }
d| j |
| j| | _ �qbW | j ¡ | j ¡ | j d d7 < | j d t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost) Úload_train_dataÚtimer ÚtoÚdevicer
ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚstepr Ú alpha_updateÚzipr r ÚdataÚcpuÚtrain_time_cost)r Ú trainloaderÚ
start_timeÚmax_local_stepsr5 ÚiÚxÚyÚoutputr Z
output_perZloss_perÚlpÚpr r r r' sB
zclientAPFL.trainc C sª d}xjt | j ¡ | j ¡ ƒD ]P\}}|j|j }| j|jj d| j |jj }|| d¡j | d¡¡7 }q W |d| j 7 }| j| j
| | _t | j
¡ dd¡| _d S )Nr r éÿÿÿÿg{®Gáz”?g g ğ?)r7 r
r r r8 r ÚgradÚviewÚTÚdotr r* ÚclipÚitem)r Z
grad_alphaZl_paramsZp_paramsZdifrE r r r r6 @ s zclientAPFL.alpha_update)Ú__name__Ú
__module__Ú __qualname__r r' r6 Ú
__classcell__r r )r r r s
,r )
r r
Útorch.nnr Únumpyr* r$ Úflcore.clients.clientbaser r r r r r Ú<module> s | 2,394 | Python | .pyt | 33 | 71.393939 | 233 | 0.428027 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,929 | clientamppt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientamppt.cpython-38.pyc | U
#ôıc‰ ã @ st d dl Z d dlmZ d dlmZ d dlZd dlZd dlZd dlZd dl m
Z
d dl m Z G dd„ deƒZ
dd„ ZdS ) é N)ÚClient)Úlabel_binarize)Úmetricsc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) Ú clientAMPPTc s¦ t ƒ j||||f|� |j| _|j| _t | j¡| _t ¡ | _
t j
| jj ¡ | jdœg¡| _|j| _t j j
| jj ¡ |j|jd�| _t j jj| j| j|jd�| _d S )N)ÚparamsÚlr)r Úmomentum)Ú step_sizeÚgamma)ÚsuperÚ__init__ÚalphaKÚlamdaÚcopyÚdeepcopyÚmodelÚclient_uÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚbaseÚ
parametersÚ
learning_rateÚ optimizerÚ plocal_stepsÚ generatorÚpt_learning_rater Ú
poptimizerÚ lr_schedulerÚStepLRÚlearning_decayÚ scheduler)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© õY D:\京东\promot\第二次投稿\å®�验\native - pro\system\flcore\clients\clientamppt.pyr s
ÿÿÿzclientAMPPT.__init__c C s | ¡ }t ¡ }t | jj¡}| j | j¡ | j | j¡ | j ¡ | jj
¡ D ]
}d|_ qP| jj ¡ D ]
}d|_ qht
| jƒD ]´}t|ƒD ]¦\}\}}t|ƒtg ƒkr¼|d | j¡|d< n | | j¡}| | j¡}| jrôt dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j ¡ | j ¡ qŠq~| j } | j�rTtj d| d ¡} | jj
¡ D ] }d|_ �q`| jj ¡ D ] }d|_ �qzt
| ƒD ]æ}|D ]Ú\}}t|ƒtg ƒk�rÈ|d | j¡|d< n | | j¡}| | j¡}| j�rt dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
t | jƒ} t | jƒ}
| |
}|
| j!| j" d t# $||¡ 7 }
|
¡ | j ¡ �q˜�q�| j %¡ | j %¡ ~t | jj¡}d}t&| ¡ | ¡ ƒD ]<\}}|| }t# '|dk|t# (|¡| ¡}|t# )|¡ }�q²| j*d d7 < | j*d t ¡ | 7 < |S ) NFTr gš™™™™™¹?é é Ú
num_roundsÚ
total_cost)+Úload_train_dataÚtimer r r r ÚtoÚdevicer Útrainr r Ú
requires_gradÚranger Ú enumerateÚtypeÚ
train_slowÚsleepÚnpÚabsÚrandomÚrandr Ú zero_gradr ÚbackwardÚstepr$ Ú local_stepsÚrandintr Úweight_flattenr r
r ÚdotÚcpuÚzipÚwhereÚ
zeros_likeÚsumÚtrain_time_cost)r% Ú trainloaderÚ
start_timeÚ
old_promptÚparamrD ÚiÚxÚyÚoutputr Úmax_local_stepsr Úparams_ÚsubÚ
new_promptÚ
diff_provalueÚ new_paramÚ old_paramÚdiff_pror- r- r. r7 sx
zclientAMPPT.trainc C s< t |j ¡ | jj ¡ ƒD ] \}}|j||j ¡ |_qd S )N)rJ r r r ÚdataÚclone)r% r Ú coef_selfr\ r] r- r- r. Úset_parametersi s zclientAMPPT.set_parametersc C sv | ¡ }| j | j¡ | j ¡ d}d}d}g }g }t ¡ �ò |D ]æ\}}t|ƒtg ƒkrp|d | j¡|d< n | | j¡}| | j¡}| |¡} | j |¡}
|t tj
| dd�|k¡ ¡ 7 }|t tj
|
dd�|k¡ ¡ 7 }||j d 7 }|
| ¡ ¡ ¡ ¡ |
t| ¡ ¡ ¡ t | j¡d�¡ qBW 5 Q R X | j ¡ tj|dd�}tj|dd�}tj||dd�} |||| fS )Nr r/ )Údim)Úclasses)ÚaxisÚmicro)Úaverage)Úload_test_datar r5 r6 Úevalr Úno_gradr; r rM ÚargmaxÚitemÚshapeÚappendÚdetachrI Únumpyr r> ÚarangeÚ num_classesÚ concatenater Ú
roc_auc_score) r% ÚtestloaderfullÚtest_accÚ test_acc2Útest_numÚy_probÚy_truerT rU rV Úoutput2Úaucr- r- r. Ú test_metricsm s4
2
zclientAMPPT.test_metrics)Ú__name__Ú
__module__Ú __qualname__r r7 rb r} Ú
__classcell__r- r- r+ r. r s Ir c C s0 g }| ¡ D ]}| | d¡¡ q t |¡}|S )Néÿÿÿÿ)r rn Úviewr Úcat)r r Úur- r- r. rG ” s
rG )r Útorch.nnr Úflcore.clients.clientbaser rp r> r4 r Úsklearn.preprocessingr Úsklearnr r rG r- r- r- r. Ú<module> s
| 4,168 | Python | .pyt | 48 | 85.666667 | 553 | 0.415291 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,930 | clientrep.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientrep.cpython-39.pyc | a
W¢bc ã @ sD d dl Z d dlmZ d dlZd dlZd dlmZ G dd„ deƒZdS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientRepc sh t ƒ j||||fi |¤� t ¡ | _tjj| jj
¡ | j d�| _ tjj| jj
¡ | j d�| _|j| _d S )N)Úlr)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚbaseÚ
parametersÚ
learning_rateÚ optimizerÚ predictorÚ
poptimizerÚ plocal_steps)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© úr/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientrep.pyr
s
zclientRep.__init__c C sX | ¡ }t ¡ }| j | j¡ | j ¡ | jj ¡ D ]
}d|_q4| jj ¡ D ]
}d|_qLt
| j ƒD ]ª}t |ƒD ]œ\}\}}t
|ƒt
g ƒkr |d | j¡|d< n | | j¡}| | j¡}| jrØt dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ qnqb| j}
| j�r.tj d|
d ¡}
| jj ¡ D ] }d|_�q:| jj ¡ D ] }d|_�qTt
|
ƒD ]²}t |ƒD ]¢\}\}}t
|ƒt
g ƒk�rª|d | j¡|d< n | | j¡}| | j¡}| j�rät dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ �qv�qj| j ¡ | j d d7 < | j d t ¡ | 7 < d S ) NFTr gš™™™™™¹?é é Ú
num_roundsÚ
total_cost) Úload_train_dataÚtimer
ÚtoÚdeviceÚtrainr r Ú
requires_gradr Úranger Ú enumerateÚtypeÚ
train_slowÚsleepÚnpÚabsÚrandomÚrandr Ú zero_gradr ÚbackwardÚstepÚ local_stepsÚrandintr ÚcpuÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚparamr4 ÚiÚxÚyÚoutputr Úmax_local_stepsr r r r' sX
zclientRep.trainc C s0 t | ¡ | jj ¡ ƒD ]\}}|j ¡ |_qd S )N)Úzipr r
r ÚdataÚclone)r r Ú new_paramÚ old_paramr r r Úset_parametersL s zclientRep.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r' rF Ú
__classcell__r r r r r s 9r ) r
Útorch.nnr Únumpyr. r$ Z system.flcore.clients.clientbaser r r r r r Ú<module> s
| 2,347 | Python | .pyt | 32 | 72.1875 | 294 | 0.431779 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,931 | clientamp.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientamp.cpython-39.pyc | a
f¾`cÍ ã @ sT d dl Z d dlmZ d dlmZ d dlZd dlZd dlZG dd„ deƒZ dd„ Z
dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientAMPc s` t ƒ j||||fi |¤� |j| _|j| _t | j¡| _t ¡ | _
t j j
| j ¡ | jd�| _d S )N)Úlr)ÚsuperÚ__init__ÚalphaKÚlamdaÚcopyÚdeepcopyÚmodelÚclient_uÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚ
parametersÚ
learning_rateÚ optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© úr/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientamp.pyr
s
zclientAMP.__init__c C sR | ¡ }t ¡ }| j ¡ | j}| jr8tj d|d ¡}t |ƒD ]Ş}|D ]Ô\}}t
|ƒt
g ƒkrv|d | j ¡|d< n | | j ¡}| | j ¡}| jr®t
dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡}t| jƒ} t| jƒ}
| |
} || j| j d t | | ¡ 7 }| ¡ | j ¡ qHq@~| jd d7 < | jd t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost) Úload_train_dataÚtimer ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚtypeÚtoÚdeviceÚsleepÚabsÚrandr Ú zero_gradr Úweight_flattenr r r r ÚdotÚbackwardÚstepÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚmax_local_stepsr7 ÚxÚyÚoutputr ÚparamsZparams_Úsubr r r r& s4
zclientAMP.trainc C s8 t | ¡ | j ¡ ƒD ] \}}|j||j ¡ |_qd S )N)Úzipr r ÚdataÚclone)r r Ú coef_selfÚ new_paramÚ old_paramr r r Úset_parameters= s zclientAMP.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r& rG Ú
__classcell__r r r r r s
)r c C s0 g }| ¡ D ]}| | d¡¡ q t |¡}|S )Néÿÿÿÿ)r ÚappendÚviewr Úcat)r r? Úur r r r4 B s
r4 ) r Útorch.nnr
Úflcore.clients.clientbaser Únumpyr) r% r r r4 r r r r Ú<module> s 9 | 2,249 | Python | .pyt | 24 | 92.625 | 277 | 0.44699 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,932 | clientpt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientpt.cpython-38.pyc | U
˜øc¶ ã @ sd d dl Z d dlmZ d dlZd dlZd dlmZ d dlZd dl m
Z
d dl m Z G dd„ deƒZ
dS )é N)ÚClient)Úlabel_binarize)Úmetricsc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) ÚclientPTc s„ t ƒ j||||f|� t ¡ | _tjj| jj
¡ | j d�| _ |j
| _
tjj| jj
¡ |j|jd�| _tjjj| j| j
|jd�| _d S )N)Úlr)r Úmomentum)Ú step_sizeÚgamma)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚbaseÚ
parametersÚ
learning_rateÚ optimizerÚ plocal_stepsÚ generatorZpt_learning_rater Ú
poptimizerÚ lr_schedulerÚStepLRZlearning_decayÚ scheduler)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© õV D:\京东\promot\第二次投稿\å®�验\native - pro\system\flcore\clients\clientpt.pyr s
ÿÿzclientPT.__init__c C sÒ | ¡ }t ¡ }t | jj¡}| j | j¡ | j ¡ | jj
¡ D ]
}d|_ qB| jj
¡ D ]
}d|_ qZt | j
ƒD ]´}t|ƒD ]¦\}\}}t|ƒtg ƒkr®|d | j¡|d< n | | j¡}| | j¡}| jræt dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j ¡ | j ¡ q|qp| j } | j�rFtj d| d ¡} | jj
¡ D ] }d|_ �qR| jj
¡ D ] }d|_ �qlt | ƒD ]²}t|ƒD ]¢\}\}}t|ƒtg ƒk�rÂ|d | j¡|d< n | | j¡}| | j¡}| j�rüt dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j ¡ �q��q‚| j ¡ t | jj¡} d}
t |
¡ |
¡ ƒD ]<\}}|| }t! "|dk|t! #|¡| ¡}|
t! $|¡ }
�qd| j%d d7 < | j%d t ¡ | 7 < |
S ) NFTr gš™™™™™¹?é é Ú
num_roundsÚ
total_cost)&Úload_train_dataÚtimeÚcopyÚdeepcopyr r ÚtoÚdeviceÚtrainr r Ú
requires_gradÚranger Ú enumerateÚtypeÚ
train_slowÚsleepÚnpÚabsÚrandomÚrandr Ú zero_gradr ÚbackwardÚstepr Ú local_stepsÚrandintr ÚcpuÚzipr ÚwhereÚ
zeros_likeÚsumÚtrain_time_cost)r Ú trainloaderÚ
start_timeZ
old_promptÚparamr> ÚiÚxÚyÚoutputr Úmax_local_stepsZ
new_promptZ
diff_provalueÚ new_paramÚ old_paramÚdiff_pror% r% r& r1 sj
zclientPT.trainc C s0 t | ¡ | jj ¡ ƒD ]\}}|j ¡ |_qd S )N)rB r r r ÚdataÚclone)r r rO rP r% r% r& Úset_parametersf s zclientPT.set_parametersc C sv | ¡ }| j | j¡ | j ¡ d}d}d}g }g }t ¡ �ò |D ]æ\}}t|ƒtg ƒkrp|d | j¡|d< n | | j¡}| | j¡}| |¡} | j |¡}
|t tj
| dd�|k¡ ¡ 7 }|t tj
|
dd�|k¡ ¡ 7 }||j d 7 }|
| ¡ ¡ ¡ ¡ |
t| ¡ ¡ ¡ t | j¡d�¡ qBW 5 Q R X | j ¡ tj|dd�}tj|dd�}tj||dd�} |||| fS )Nr r' )Údim)Úclasses)ÚaxisÚmicro)Úaverage)Úload_test_datar r/ r0 Úevalr Úno_gradr5 r rE ÚargmaxÚitemÚshapeÚappendÚdetachrA Únumpyr r8 ÚarangeÚ num_classesÚ concatenater Ú
roc_auc_score) r ÚtestloaderfullÚtest_accÚ test_acc2Útest_numÚy_probÚy_truerK rL rM Úoutput2Úaucr% r% r& Ú test_metricsj s4
2
zclientPT.test_metrics)Ú__name__Ú
__module__Ú __qualname__r r1 rT ro Ú
__classcell__r% r% r# r& r
s Ir )r Útorch.nnr rb r8 r, Úflcore.clients.clientbaser r- Úsklearn.preprocessingr Úsklearnr r r% r% r% r& Ú<module> s | 3,693 | Python | .pyt | 46 | 78.956522 | 553 | 0.426261 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,933 | clientpFedMe.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientpFedMe.cpython-39.pyc | a
f¾`cş ã @ sX d dl Zd dlZd dlZd dlZd dlmZ d dlmZ d dl m
Z
G dd„ de
ƒZ dS )é N)ÚpFedMeOptimizer)ÚClientc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) Ú clientpFedMec s† t ƒ j||||fi |¤� |j| _|j| _|j| _t t| j
¡ ƒ¡| _ t t| j
¡ ƒ¡| _ t
¡ | _t| j
¡ | j| jd�| _d S )N)ÚlrÚlamda)ÚsuperÚ__init__r ÚKZp_learning_rateZpersonalized_learning_rateÚcopyÚdeepcopyÚlistÚmodelÚ
parametersÚ local_paramsÚpersonalized_paramsÚnnÚCrossEntropyLossÚlossr Ú optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© úu/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientpFedMe.pyr s
ÿzclientpFedMe.__init__c C s† | ¡ }t ¡ }| j ¡ | j}| jr8tj d|d ¡}t |ƒD �]}|D ]ø\}}t
|ƒt
g ƒkrx|d | j ¡|d< n | | j ¡}| | j ¡}| jr°t
dt tj ¡ ¡ ¡ t | jƒD ]@}| j ¡ | |¡}| ||¡} | ¡ | j | j| j ¡| _qºt| j| jƒD ]6\}
} | | j ¡} | j| j| j | j|
j | _�q
qJq@| | j| j¡ | j d d7 < | j d t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost) Úload_train_dataÚtimer
ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚtypeÚtoÚdeviceÚsleepÚabsÚrandr r Ú zero_gradr ÚbackwardÚstepr r ÚzipÚdatar Ú
learning_rateÚupdate_parametersÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚmax_local_stepsr4 ÚxÚyÚiÚoutputr Ú new_paramZ localweightr r r r% s4
(zclientpFedMe.trainc C s@ t | ¡ | j ¡ | jƒD ]"\}}}|j ¡ |_|j ¡ |_qd S )N)r5 r r
r r6 Úclone)r r
rA Ú old_paramZ local_paramr r r Úset_parametersE s " zclientpFedMe.set_parametersc C sŞ | ¡ }| | j| j¡ | j ¡ d}d}t ¡ �” |D ]~\}}t|ƒtg ƒkrf|d | j ¡|d< n | | j ¡}| | j ¡}| |¡}|t
tj |dd�|k¡ ¡ 7 }||j
d 7 }q8W d ƒ n1 sÌ0 Y ||fS )Nr r )Údim)Úload_test_datar8 r
r ÚevalÚtorchÚno_gradr, r- r. ÚsumÚargmaxÚitemÚshape)r ÚtestloaderfullÚtest_accÚtest_numr= r> r@ r r r Útest_metrics_personalizedJ s
.z&clientpFedMe.test_metrics_personalized)Ú__name__Ú
__module__Ú __qualname__r r% rD rQ Ú
__classcell__r r r r r
s +r ) Únumpyr( r$ r
rH Útorch.nnr Z flcore.optimizers.fedoptimizerr Úflcore.clients.clientbaser r r r r r Ú<module> s | 2,889 | Python | .pyt | 29 | 98.344828 | 455 | 0.454387 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,934 | clientbnpt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientbnpt.cpython-38.pyc | U
T¸kc÷ ã @ sL d dl Z d dlmZ d dlZd dlZd dlmZ d dlZG dd„ deƒZ dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú
clientBNPTc s� t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ tjj| jj ¡ | j
d�| _ |j
| _
tjj| jj ¡ |j|jd�| _tjjj| j| j
|jd�| _d S )N)Úlr)r Úmomentum)Ú step_sizeÚgamma)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizerÚbaseÚ plocal_stepsÚ generatorÚpt_learning_rater Ú
poptimizerÚ lr_schedulerÚStepLRÚlearning_decayÚ scheduler)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© õX D:\京东\promot\第二次投稿\å®�验\native - pro\system\flcore\clients\clientbnpt.pyr s
ÿzclientBNPT.__init__c C s | ¡ }t ¡ }t | jj¡}| j | j¡ | j ¡ | jj
¡ D ]
}d|_ qB| jj
¡ D ]
}d|_ qZt | j
ƒD ]´}t|ƒD ]¦\}\}}t|ƒtg ƒkr®|d | j¡|d< n | | j¡}| | j¡}| jræt dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j ¡ | j ¡ q|qp| j } | j�rFtj d| d ¡} | jj
¡ D ] }d|_ �qR| jj
¡ D ] }d|_ �qlt | ƒD ]Î}t|ƒD ]¾\}\}}t|ƒtg ƒk�rÂ|d | j¡|d< n | | j¡}| | j¡}| j�rüt dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j �r@t | j |t!|ƒƒ n
| j ¡ �q��q‚| j "¡ | j#d d7 < | j#d t ¡ | 7 < t | jj¡} d}
t$|
¡ |
¡ ƒD ]<\}}|| }t% &|dk|t% '|¡| ¡}|
t% (|¡ }
�q¬| j#d d7 < | j#d t ¡ | 7 < |
S ) NFTr gš™™™™™¹?é é Ú
num_roundsÚ
total_cost))Úload_train_dataÚtimeÚcopyÚdeepcopyr r ÚtoÚdeviceÚtrainr r Ú
requires_gradÚranger Ú enumerateÚtypeÚ
train_slowÚsleepÚnpÚabsÚrandomÚrandr Ú zero_gradr ÚbackwardÚstepr Ú local_stepsÚrandintr ÚprivacyÚdp_stepÚlenÚcpuÚtrain_time_costÚzipr
ÚwhereÚ
zeros_likeÚsum)r Ú trainloaderÚ
start_timeÚ
old_promptÚparamr> ÚiÚxÚyÚoutputr Úmax_local_stepsÚ
new_promptÚ
diff_provalueÚ new_paramÚ old_paramÚdiff_pror% r% r& r1 sr
zclientBNPT.trainc C sB t |j ¡ | jj ¡ ƒD ]$\\}}\}}d|kr|j ¡ |_qd S )NÚbn)rF r Únamed_parametersr ÚdataÚclone)r r r
r8 ÚonÚopr% r% r& Úset_parametersd s (zclientBNPT.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r1 r^ Ú
__classcell__r% r% r# r& r s Fr )
r
Útorch.nnr
Únumpyr8 r, Úflcore.clients.clientbaser r- r r% r% r% r& Ú<module> s | 2,909 | Python | .pyt | 41 | 69.658537 | 240 | 0.427675 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,935 | clientprox.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientprox.cpython-38.pyc | U
”jfc› ã @ sX d dl Z d dlZd dlZd dlZd dlmZ d dlmZ d dl m
Z
G dd„ de
ƒZ dS )é N)ÚPerturbedGradientDescent)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú
clientProxc s\ t ƒ j||||f|� |j| _t t| j ¡ ƒ¡| _t
¡ | _ t | j ¡ | j
| jd�| _d S )N)ÚlrÚmu)ÚsuperÚ__init__r ÚcopyÚdeepcopyÚlistÚmodelÚ
parametersÚ
global_paramsÚnnÚCrossEntropyLossÚlossr Ú
learning_rateÚ optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© õL D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\clients\clientprox.pyr s
ÿzclientProx.__init__c C s | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}t |ƒD ]Š}|D ]€\}}t |ƒt g ƒkr„|d | j¡|d< n | | j¡}| | j¡}| j
¡ | |¡}| ||¡}| ¡ | j
| j| j¡ qVqN| j ¡ | jd d7 < | jd t ¡ | 7 < d S )Né é r Ú
num_roundsÚ
total_cost)Úload_train_dataÚtimer ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚtyper Ú zero_gradr ÚbackwardÚstepr ÚcpuÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚmax_local_stepsr0 ÚxÚyÚoutputr r r r r& s*
zclientProx.trainc C s@ t | ¡ | j| j ¡ ƒD ]"\}}}|j ¡ |_|j ¡ |_qd S )N)Úzipr
r r ÚdataÚclone)r r Ú new_paramZ global_paramÚparamr r r Úset_parameters5 s " zclientProx.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r& r> Ú
__classcell__r r r r r
s r ) ÚtorchÚnumpyr) r# r Útorch.nnr Ú flcore.optimizers.fedoptimizerr Úflcore.clients.clientbaser r r r r r Ú<module> s | 1,963 | Python | .pyt | 20 | 96.9 | 283 | 0.459877 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,936 | clientprox.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientprox.cpython-39.pyc | a
f¾`c› ã @ sX d dl Z d dlZd dlZd dlZd dlmZ d dlmZ d dl m
Z
G dd„ de
ƒZ dS )é N)ÚPerturbedGradientDescent)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú
clientProxc s` t ƒ j||||fi |¤� |j| _t t| j ¡ ƒ¡| _t
¡ | _ t | j ¡ | j
| jd�| _d S )N)ÚlrÚmu)ÚsuperÚ__init__r ÚcopyÚdeepcopyÚlistÚmodelÚ
parametersÚ
global_paramsÚnnÚCrossEntropyLossÚlossr Ú
learning_rateÚ optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© ús/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/clients/clientprox.pyr s
ÿzclientProx.__init__c C s | ¡ }t ¡ }| j ¡ | j}| jr8tj d|d ¡}t |ƒD ]ª}|D ] \}}t
|ƒt
g ƒkrv|d | j ¡|d< n | | j ¡}| | j ¡}| jr®t
dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡}| ¡ | j | j| j ¡ qHq@| jd d7 < | jd t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost)Úload_train_dataÚtimer ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚtypeÚtoÚdeviceÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚstepr Útrain_time_cost) r Ú trainloaderÚ
start_timeÚmax_local_stepsr3 ÚxÚyÚoutputr r r r r$ s*
zclientProx.trainc C s@ t | ¡ | j| j ¡ ƒD ]"\}}}|j ¡ |_|j ¡ |_qd S )N)Úzipr
r r ÚdataÚclone)r r Ú new_paramZ global_paramÚparamr r r Úset_parameters5 s " zclientProx.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r$ r@ Ú
__classcell__r r r r r
s r ) ÚtorchÚnumpyr' r# r Útorch.nnr Ú flcore.optimizers.fedoptimizerr Úflcore.clients.clientbaser r r r r r Ú<module> s | 2,029 | Python | .pyt | 20 | 100.3 | 293 | 0.471642 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,937 | clientreppt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientreppt.cpython-38.pyc | U
�P÷c� ã @ sd d dl Z d dlmZ d dlZd dlZd dlmZ d dlZd dl m
Z
d dl m Z G dd„ deƒZ
dS )é N)ÚClient)Úlabel_binarize)Úmetricsc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) Ú clientREPPTc sœ t ƒ j||||f|� t ¡ | _tjj| jj
¡ | j d�| _ |j
| _
tjj| jj
¡ |jdœ| jj
¡ | j dœg|jd�| _tjjj| j| j
|jd�| _d S )N)Úlr)Úparamsr )Úmomentum)Ú step_sizeÚgamma)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚbaseÚ
parametersÚ
learning_rateÚ optimizerÚ plocal_stepsÚ generatorÚpt_learning_rateÚ predictorr Ú
poptimizerÚ lr_schedulerÚStepLRÚlearning_decayÚ scheduler)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© õY D:\京东\promot\第二次投稿\å®�验\native - pro\system\flcore\clients\clientreppt.pyr
s
şıÿzclientREPPT.__init__c C s0 | ¡ }t ¡ }t | jj¡}| j | j¡ | j ¡ | jj
¡ D ]
}d|_ qB| jj
¡ D ]
}d|_ qZ| jj
¡ D ]
}d|_ qrt
| jƒD ]´}t|ƒD ]¦\}\}}t|ƒtg ƒkrÆ|d | j¡|d< n | | j¡}| | j¡}| jrşt dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j ¡ | j ¡ q”qˆ| j } | j�r^tj d| d ¡} | jj
¡ D ] }d|_ �qj| jj
¡ D ] }d|_ �q„| jj
¡ D ] }d|_ �q�t
| ƒD ]²}t|ƒD ]¢\}\}}t|ƒtg ƒk�rô|d | j¡|d< n | | j¡}| | j¡}| j�r.t dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j ¡ �qÀ�q´| j ¡ | j!d d7 < | j!d t ¡ | 7 < t | jj¡} d}
t"|
¡ |
¡ ƒD ]<\}}|| }t# $|dk|t# %|¡| ¡}|
t# &|¡ }
�qÂ| j!d d7 < | j!d t ¡ | 7 < |
S ) NFTr gš™™™™™¹?é é Ú
num_roundsÚ
total_cost)'Úload_train_dataÚtimeÚcopyÚdeepcopyr r ÚtoÚdeviceÚtrainr r Ú
requires_gradr Úranger Ú enumerateÚtypeÚ
train_slowÚsleepÚnpÚabsÚrandomÚrandr Ú zero_gradr ÚbackwardÚstepr Ú local_stepsÚrandintr ÚcpuÚtrain_time_costÚzipr ÚwhereÚ
zeros_likeÚsum)r! Ú trainloaderÚ
start_timeÚ
old_promptÚparamrB ÚiÚxÚyÚoutputr Úmax_local_stepsÚ
new_promptÚ
diff_provalueÚ new_paramÚ old_paramÚdiff_pror) r) r* r5 sv
zclientREPPT.trainc C s0 t | ¡ | jj ¡ ƒD ]\}}|j ¡ |_qd S )N)rG r r r ÚdataÚclone)r! r rV rW r) r) r* Úset_parameterso s zclientREPPT.set_parametersc C s~ | ¡ }| j | j¡ | j ¡ d}d}d}g }g }t ¡ �ú |D ]î\}}t|ƒtg ƒkrp|d | j¡|d< n | | j¡}| | j¡}| |¡} | j | j |¡¡}
|t
tj | dd�|k¡ ¡ 7 }|t
tj |
dd�|k¡ ¡ 7 }||j
d 7 }| | ¡ ¡ ¡ ¡ | t| ¡ ¡ ¡ t | j¡d�¡ qBW 5 Q R X | j ¡ tj|dd�}tj|dd�}tj||dd�} |||| fS )Nr r+ )Údim)Úclasses)ÚaxisÚmicro)Úaverage)Úload_test_datar r3 r4 Úevalr Úno_gradr9 r r rJ ÚargmaxÚitemÚshapeÚappendÚdetachrE Únumpyr r< ÚarangeÚ num_classesÚ concatenater Ú
roc_auc_score) r! ÚtestloaderfullÚtest_accÚ test_acc2Útest_numÚy_probÚy_truerP rQ rR Úoutput2Úaucr) r) r* Ú test_metricsu s4
2
zclientREPPT.test_metrics)Ú__name__Ú
__module__Ú __qualname__r r5 r[ rv Ú
__classcell__r) r) r' r* r s Pr )r Útorch.nnr
ri r< r0 Úflcore.clients.clientbaser r1 Úsklearn.preprocessingr Úsklearnr r r) r) r) r* Ú<module> s | 3,886 | Python | .pyt | 51 | 74.745098 | 558 | 0.422576 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,938 | clientmtl.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientmtl.cpython-37.pyc | B
ùùecª
ã @ s\ d dl Z d dlmZ d dlmZ d dlZd dlZd dlZd dl Z G dd„ deƒZ
dd„ Z dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientMTLc s` t ƒ j||||f|� d | _d | _d| _|j| _d| _t ¡ | _ t
j j | j
¡ | jdd�| _d S )Nr g-C ëâ6?g à?)ÚlrÚmomentum)ÚsuperÚ__init__ÚomegaÚW_globÚidxZitkZlambaÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs)Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientmtl.pyr s
zclientMTL.__init__c C sÎ | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}�x>t |ƒD �]0}�x(|D �] \}}t |ƒt g ƒkr�|d | j¡|d< n | | j¡}| | j¡}| jrÈt
dt tj ¡ ¡ ¡ | j ¡ | |¡}| ||¡}t| jƒ| jd d …| jf< d} | | j ¡ d 7 } | t t | j| j d¡d ¡7 } tt | jj d ¡d ƒd }
| d|
9 } || 7 }| ¡ | j ¡ q`W qRW | j ¡ d | _d | _| j!d d7 < | j!d t ¡ | 7 < d S )Né é r gš™™™™™¹?é
Ú
num_roundsÚ
total_cost)"Úload_train_dataÚtimer ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚtypeÚsleepÚabsÚrandr Ú zero_gradr
Úflattenr r
Únormr Úsumr ÚintÚmathÚlog10ÚshapeÚbackwardÚstepÚcpuÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚmax_local_stepsr; ÚxÚyÚoutputr
Zloss_regularizerÚfr r r r' s@
"
zclientMTL.trainc C s* t |d d ¡| _t |¡| _|| _d S )Nr )r Úsqrtr ÚcopyÚdeepcopyr r
)r r r r
r r r Úreceive_valuesH s zclientMTL.receive_values)Ú__name__Ú
__module__Ú __qualname__r r' rH Ú
__classcell__r r )r r r
s 1r c s, | ¡ ‰ ˆ ¡ }‡ fdd„|D ƒ}t |¡S )Nc s g | ]}ˆ | ¡ ‘qS r )r3 )Ú.0Úkey)Ú
state_dictr r ú
<listcomp>Q s zflatten.<locals>.<listcomp>)rO Úkeysr Úcat)r rQ ÚWr )rO r r3 N s r3 ) r Útorch.nnr Úflcore.clients.clientbaser Únumpyr* r$ r7 rF r r3 r r r r Ú<module> s D | 2,511 | Python | .pyt | 26 | 95.423077 | 285 | 0.423974 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,939 | clientapfl.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientapfl.cpython-38.pyc | U
”jfcâ
ã @ sL d dl Z d dlZd dlmZ d dlZd dlZd dlmZ G dd„ deƒZ dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú
clientAPFLc sn t ƒ j||||f|� t ¡ | _tjj| j ¡ | j
d�| _ |j | _ t
| j¡| _tjj| j ¡ | j
d�| _d S )N)Úlr)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ
parametersÚ
learning_rateÚ optimizerÚalphaÚcopyÚdeepcopyÚ model_perÚ
optimizer_per)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© õL D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\clients\clientapfl.pyr
s
zclientAPFL.__init__c C s | ¡ }t ¡ }| j | j¡ | j | j¡ | j ¡ | j}| jrTt j
d|d ¡}t |ƒD ]ä}t
|ƒD ]Ö\}\}}t|ƒtg ƒkrš|d | j¡|d< n | | j¡}| | j¡}| jrÒt dt t j
¡ ¡ ¡ | j ¡ | |¡}| ||¡} | ¡ | j ¡ | j ¡ | |¡}
| |
|¡} | ¡ | j ¡ | ¡ qhq\t| j ¡ | j ¡ ƒD ]$\} }
d| j |
| j| | _ �qX| j ¡ | j ¡ | j d d7 < | j d t ¡ | 7 < d S )Né é r gš™™™™™¹?Ú
num_roundsÚ
total_cost) Úload_train_dataÚtimer ÚtoÚdevicer
ÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚ enumerateÚtypeÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚstepr Ú alpha_updateÚzipr r ÚdataÚcpuÚtrain_time_cost)r Ú trainloaderÚ
start_timeÚmax_local_stepsr6 ÚiÚxÚyÚoutputr Z
output_perZloss_perÚlpÚpr r r r( sB
zclientAPFL.trainc C s¦ d}t | j ¡ | j ¡ ƒD ]P\}}|j|j }| j|jj d| j |jj }|| d¡j | d¡¡7 }q|d| j 7 }| j| j
| | _t | j
¡ dd¡| _d S )Nr r éÿÿÿÿg{®Gáz”?g g ğ?)r8 r
r r r9 r ÚgradÚviewÚTÚdotr r+ ÚclipÚitem)r Z
grad_alphaZl_paramsZp_paramsZdifrF r r r r7 @ s zclientAPFL.alpha_update)Ú__name__Ú
__module__Ú __qualname__r r( r7 Ú
__classcell__r r r r r s
,r )
r r
Útorch.nnr Únumpyr+ r% Úflcore.clients.clientbaser r r r r r Ú<module> s | 2,404 | Python | .pyt | 33 | 71.69697 | 241 | 0.42285 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,940 | clientprox.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientprox.cpython-37.pyc | B
fc› ã @ sX d dl Z d dlZd dlZd dlZd dlmZ d dlmZ d dl m
Z
G dd„ de
ƒZ dS )é N)ÚPerturbedGradientDescent)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú
clientProxc s\ t ƒ j||||f|� |j| _t t| j ¡ ƒ¡| _t
¡ | _ t | j ¡ | j
| jd�| _d S )N)ÚlrÚmu)ÚsuperÚ__init__r ÚcopyÚdeepcopyÚlistÚmodelÚ
parametersÚ
global_paramsÚnnÚCrossEntropyLossÚlossr Ú
learning_rateÚ optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs)Ú __class__© úG/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientprox.pyr s
zclientProx.__init__c C s | ¡ }t ¡ }| j | j¡ | j ¡ | j}| jrFtj
d|d ¡}xšt |ƒD ]�}xˆ|D ]€\}}t |ƒt g ƒkrˆ|d | j¡|d< n | | j¡}| | j¡}| j
¡ | |¡}| ||¡}| ¡ | j
| j| j¡ qZW qPW | j ¡ | jd d7 < | jd t ¡ | 7 < d S )Né é r Ú
num_roundsÚ
total_cost)Úload_train_dataÚtimer ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚtyper Ú zero_gradr ÚbackwardÚstepr ÚcpuÚtrain_time_cost) r Ú trainloaderÚ
start_timeÚmax_local_stepsr/ ÚxÚyÚoutputr r r r r% s*
zclientProx.trainc C sD x>t | ¡ | j| j ¡ ƒD ]"\}}}|j ¡ |_|j ¡ |_qW d S )N)Úzipr
r r ÚdataÚclone)r r Ú new_paramZ global_paramÚparamr r r Úset_parameters5 s $ zclientProx.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r% r= Ú
__classcell__r r )r r r
s r ) ÚtorchÚnumpyr( r" r Útorch.nnr Ú flcore.optimizers.fedoptimizerr Úflcore.clients.clientbaser r r r r r Ú<module> s | 1,943 | Python | .pyt | 20 | 95.9 | 283 | 0.466216 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,941 | clientperavg.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientperavg.cpython-38.pyc | U
”jfc ã @ sX d dl Zd dlZd dlZd dlZd dlmZ d dlmZ d dl m
Z
G dd„ de
ƒZ dS )é N)ÚPerAvgOptimizer)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientPerAvgc sB t ƒ j||||f|� | j| _t ¡ | _t| j ¡ | jd�| _
d S )N)Úlr) ÚsuperÚ__init__Ú
learning_rateÚbetaÚnnÚCrossEntropyLossÚlossr ÚmodelÚ
parametersÚ optimizer)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs©Ú __class__© õN D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\clients\clientperavg.pyr s
zclientPerAvg.__init__c C sˆ | | jd ¡}t ¡ }| j | j¡ | j ¡ | j}| jrNt j
d|d ¡}t |ƒD �]ô}|D �]è\}}t
t| j ¡ ƒ¡}t|ƒtg ƒkrÌd d g}|d d | j… | j¡|d< |d d | j… |d< n|d | j… | j¡}|d | j… | j¡} | j�rt dt t j
¡ ¡ ¡ | j ¡ | |¡}
| |
| ¡} | ¡ | j ¡ t|ƒtg ƒk�rœd d g}|d | jd … | j¡|d< |d | jd … |d< n|| jd … | j¡}|| jd … | j¡} | j�rêt dt t j
¡ ¡ ¡ | j ¡ | |¡}
| |
| ¡} | ¡ t| j ¡ |ƒD ]\} }
|
j ¡ | _�q"| jj| j d� q`qV| j ¡ | j d d7 < | j d t ¡ | 7 < d S )Né é r gš™™™™™¹?©r Ú
num_roundsÚ
total_cost) Úload_train_dataÚ
batch_sizeÚtimer
ÚtoÚdeviceÚtrainÚ local_stepsÚ
train_slowÚnpÚrandomÚrandintÚrangeÚcopyÚdeepcopyÚlistr ÚtypeÚsleepÚabsÚrandr Ú zero_gradr ÚbackwardÚstepÚzipÚdataÚcloner ÚcpuÚtrain_time_cost)r Ú trainloaderÚ
start_timeÚmax_local_stepsr4 ÚXÚYZ
temp_modelÚxÚyÚoutputr Ú old_paramÚ new_paramr r r r$ sR
zclientPerAvg.trainc C s8 | | j¡}t|ƒ}| j | j¡ | j ¡ t|ƒ\}}t|ƒtg ƒkr^|d | j¡|d< n | | j¡}| | j¡}| j
¡ | |¡}| ||¡}| ¡ | j
¡ t|ƒ\}}t|ƒtg ƒkrÚ|d | j¡|d< n | | j¡}| | j¡}| j
¡ | |¡}| ||¡}| ¡ | j j
| jd� | j ¡ d S )Nr r )Úload_test_datar Úiterr
r" r# r$ Únextr. r r2 r r3 r4 r r8 )r Z
testloaderZiter_testloaderr? r@ rA r r r r Útrain_one_stepN s2
zclientPerAvg.train_one_step)Ú__name__Ú
__module__Ú __qualname__r r$ rG Ú
__classcell__r r r r r
s :r ) Únumpyr' Útorchr! r+ Útorch.nnr
Ú flcore.optimizers.fedoptimizerr Úflcore.clients.clientbaser r r r r r Ú<module> s | 2,805 | Python | .pyt | 40 | 68.9 | 226 | 0.395155 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,942 | clientreppt.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/clients/__pycache__/clientreppt.cpython-37.pyc | B
K´ccZ ã @ sL d dl Z d dlmZ d dlZd dlZd dlmZ d dlZG dd„ deƒZ dS )é N)ÚClientc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )Ú clientREPPTc sd t ƒ j||||f|� t ¡ | _tjj| jj
¡ | j d�| _ tjj| jj
¡ | j d�| _|j| _d S )N)Úlr)ÚsuperÚ__init__ÚnnÚCrossEntropyLossÚlossÚtorchÚoptimÚSGDÚmodelÚ generatorÚ
parametersÚ
learning_rateÚ
poptimizerÚbaseÚ optimizerÚ plocal_steps)ÚselfÚargsÚidÚ
train_samplesÚ test_samplesÚkwargs)Ú __class__© úH/root/autodl-tmp/PFL-Non-IID-master/system/flcore/clients/clientreppt.pyr s
zclientREPPT.__init__c C sT | ¡ }t ¡ }t | jj¡}| j | j¡ | j ¡ x| jj
¡ D ]
}d|_ qDW x| jj
¡ D ]
}d|_ q`W x| jj
¡ D ]
}d|_ q|W x¾t
| jƒD ]°}xªt|ƒD ]�\}\}}t|ƒtg ƒkrÖ|d | j¡|d< n | | j¡}| | j¡}| j�rt dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j ¡ q¤W q–W | j } | j�rjtj d| d ¡} x | jj
¡ D ] }d|_ �qxW x | jj
¡ D ] }d|_ �q–W x | jj
¡ D ] }d|_ �q´W xÂt
| ƒD ]¶}x®t|ƒD ]¢\}\}}t|ƒtg ƒk�r|d | j¡|d< n | | j¡}| | j¡}| j�rJt dt tj ¡ ¡ ¡ | j ¡ | |¡} | | |¡}
|
¡ | j ¡ �qÜW �qÎW | j ¡ | j d d7 < | j d t ¡ | 7 < t | jj¡} d}
xRt!|
¡ |
¡ ƒD ]<\}}|| }t" #|dk|t" $|¡| ¡}|
t" %|¡ }
�qäW | j d d7 < | j d t ¡ | 7 < |
S ) NFTr gš™™™™™¹?é é Ú
num_roundsÚ
total_cost)&Úload_train_dataÚtimeÚcopyÚdeepcopyr
r ÚtoÚdeviceÚtrainr r Ú
requires_gradÚ predictorÚranger Ú enumerateÚtypeÚ
train_slowÚsleepÚnpÚabsÚrandomÚrandr Ú zero_gradr ÚbackwardÚstepÚ local_stepsÚrandintr ÚcpuÚtrain_time_costÚzipr
ÚwhereÚ
zeros_likeÚsum)r Ú trainloaderÚ
start_timeÚ
old_promptÚparamr6 ÚiÚxÚyÚoutputr Úmax_local_stepsÚ
new_promptÚ
diff_provalueÚ new_paramÚ old_paramÚdiff_pror r r r( st
zclientREPPT.trainc C s4 x.t | ¡ | jj ¡ ƒD ]\}}|j ¡ |_qW d S )N)r; r r
r ÚdataÚclone)r r rJ rK r r r Úset_parameters^ s zclientREPPT.set_parameters)Ú__name__Ú
__module__Ú __qualname__r r( rO Ú
__classcell__r r )r r r s
Hr )
r
Útorch.nnr Únumpyr0 r# Ú system.flcore.clients.clientbaser r$ r r r r r Ú<module> s | 2,710 | Python | .pyt | 44 | 60.113636 | 288 | 0.421447 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,943 | bilstm.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/trainmodel/__pycache__/bilstm.cpython-37.pyc | B
É:ccÁ ã @ s* d dl Z d dl mZ G dd„ dejƒZdS )é N)Únnc s. e Zd Zd ‡ fdd„ Zdd„ Zdd„ Z‡ ZS )
ÚBiLSTM_TextClassificationFNc sú t t| ƒ ¡ || _|| _|| _|| _|| _|| _|| _ | | _
|| _ |
d k rbt j
t |
¡¡| _nt
| j| j ¡| _t j| jd�| _| j
r´t | jd | jd ¡| _t j| j d�| _t j| j | j| j|dd�| _t j| jd�| _t | jd | j¡| _d S )N)Úpé é T)ÚdropoutÚ
bidirectional)Úsuperr Ú__init__Ú
input_sizeÚ hidden_sizeÚ output_sizeÚ
num_layersÚembedding_dropoutÚ lstm_dropoutÚattention_dropoutÚ attentionÚembedding_lengthr Ú EmbeddingÚfrom_pretrainedÚtorchÚtensorÚword_embeddingsÚDropoutÚembedding_dropout_layerÚLinearÚattention_layerÚattention_dropout_layerÚLSTMÚ
lstm_layerÚlstm_dropout_layerÚ output_layer) Úselfr r r
r r r r r r Zembedding_weights)Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/trainmodel/bilstm.pyr
s*
z"BiLSTM_TextClassification.__init__c
C s¬ | d¡}t ||¡ d¡}g }xZt|ƒD ]N\}}t || d |… d¡} t | d¡||d |…d d …f ¡}
| |
¡ q*W t t |d¡|fd¡} | | ¡} |
| ¡} | S )Nr r é ) Ú unsqueezer ÚbmmÚsqueezeÚ enumerateÚsoftmaxÚmatmulÚappendÚcatr r )
r" Z lstm_outputÚstateÚseq_lensÚhiddenZ attn_weightsZ new_hiddensÚiÚseq_lenZsoft_attn_weightsZ
new_hiddenZ
concat_hiddenZ
output_hiddenr$ r$ r% Úattention_forward" s
$
z+BiLSTM_TextClassification.attention_forwardc sê |\}}t |ƒ}| |¡}| |¡}t | jd || jf¡jdd�}t | jd || jf¡jdd�}| ddd¡}| |||f¡\‰ \}}ˆ ddd¡‰ tj
‡ fdd„t |ƒD ƒdd�} | | ¡} | j
rØ| ˆ | |¡‰ n| ‰ | ˆ ¡}
|
S ) Nr Úcuda)Údevicer& r c s, g | ]$\}}ˆ ||d dd…f d¡‘qS )r& Nr )r' )Ú.0r2 r3 )Úoutputr$ r% ú
<listcomp>J s z5BiLSTM_TextClassification.forward.<locals>.<listcomp>)Údim)Úlenr r r Úzerosr r ÚtoÚpermuter r. r* r r r4 r! ) r" ÚxZ input_seqr0 Ú
batch_sizeZh_0Zc_0Zfinal_hidden_stateZfinal_cell_stater/ Úlogitsr$ )r8 r% Úforward8 s
z!BiLSTM_TextClassification.forward)FN)Ú__name__Ú
__module__Ú __qualname__r
r4 rB Ú
__classcell__r$ r$ )r# r% r s r )r r ÚModuler r$ r$ r$ r% Ú<module> s | 2,663 | Python | .pyt | 30 | 87.7 | 247 | 0.465452 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,944 | vit.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/trainmodel/__pycache__/vit.cpython-38.pyc | U
”jfc7 ã @ s– d dl Z d dl mZ d dlmZmZ d dlmZ dd„ ZG dd„ dejƒZ G d d
„ d
ejƒZ
G d d „ d ejƒZ G d
d„ dejƒZ G dd„ dejƒZ
dS )é N)Únn)Ú rearrangeÚrepeat)Ú Rearrangec C s t | tƒr| S | | fS ©N)Ú
isinstanceÚtuple©Út© r õH D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\trainmodel\vit.pyÚpair s r
c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚPreNormc s t ƒ ¡ t |¡| _|| _d S r )ÚsuperÚ__init__r Ú LayerNormÚnormÚfn)ÚselfÚdimr ©Ú __class__r r r s
zPreNorm.__init__c K s | j | |¡f|�S r )r r )r ÚxÚkwargsr r r Úforward s zPreNorm.forward©Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s r c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )Ú FeedForwardç c sB t ƒ ¡ t t ||¡t ¡ t |¡t ||¡t |¡¡| _d S r )r r r Ú
SequentialÚLinearÚGELUÚDropoutÚnet)r r Ú
hidden_dimÚdropoutr r r r s
ûzFeedForward.__init__c C s
| |¡S r )r& )r r r r r r s zFeedForward.forward)r! r r r r r r s r c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) Ú Attentioné é@ çš™™™™™¹?c s„ t ƒ ¡ || }|dko ||k }|| _|d | _tjdd�| _tj||d dd�| _|rvt t ||¡t
|¡¡nt ¡ | _ d S )Né g à¿éÿÿÿÿ©r é F)Úbias)
r r ÚheadsÚscaler ÚSoftmaxÚattendr# Úto_qkvr" r% ÚIdentityÚto_out)r r r2 Údim_headr( Z inner_dimZ project_outr r r r $ s
ı
şızAttention.__init__c sp ˆ |¡jddd�}t‡ fdd„|ƒ\}}}t || dd¡¡ˆ j }ˆ |¡}t ||¡}t|dƒ}ˆ |¡S )Nr0 r. r/ c s t | dˆ jd�S )Nzb n (h d) -> b h n d)Úh)r r2 r ©r r r Ú<lambda>6 ó z#Attention.forward.<locals>.<lambda>éşÿÿÿzb h n d -> b n (h d))
r6 ÚchunkÚmapÚtorchÚmatmulÚ transposer3 r5 r r8 ) r r ÚqkvÚqÚkÚvÚdotsÚattnÚoutr r; r r 4 s
zAttention.forward)r* r+ r, r r r r r r) # s r) c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )Ú Transformerr! c
s` t ƒ ¡ t g ¡| _t|ƒD ]<}| j t t|t||||d�ƒt|t |||d�ƒg¡¡ q d S )N)r2 r9 r( )r( )
r r r Ú
ModuleListÚlayersÚrangeÚappendr r) r )r r Údepthr2 r9 Úmlp_dimr( Ú_r r r r I s
şzTransformer.__init__c C s8 d}| j D ](\}}|d7 }||ƒ| }||ƒ| }q
|S )Nr r- )rM )r r ÚllrI Úffr r r r Q s zTransformer.forward)r! r r r r r rK H s rK c sJ e Zd Zddddddœ‡ fdd„
Zdd „ Zd
d „ Zd d
„ Zdd„ Z‡ ZS )ÚViTÚclsr0 r+ r! )ÚpoolÚchannelsr9 r( Ú emb_dropoutc s t ƒ ¡ t|ƒ\}
}t|ƒ\}}|
| dkr:|| dksBtdƒ‚|
| || }| | | }|dksntdƒ‚t td||d�t ||¡¡| _t t
d|d |¡¡| _ t t
dd|¡¡| _
t | ¡| _t||||
|| ƒ| _|| _t ¡ | _t |¡| _t ||¡| _d S )Nr z5Image dimensions must be divisible by the patch size.> rV Úmeanz?pool type must be either cls (cls token) or mean (mean pooling)z&b c (h p1) (w p2) -> b (h w) (p1 p2 c))Úp1Úp2r- )r r r
ÚAssertionErrorr r" r r# Úto_patch_embeddingÚ ParameterrA ÚrandnÚ
pos_embeddingÚ cls_tokenr% r( rK Ú transformerrW r7 Ú to_latentr r Úfc)r Ú
image_sizeÚ
patch_sizeÚ num_classesr rP r2 rQ rW rX r9 r( rY Ú image_heightÚ image_widthZ patch_heightZ patch_widthÚ num_patchesÚ patch_dimr r r r Z s&
ş
z ViT.__init__c C s² | |¡}|j\}}}t| jd|d�}tj||fdd�}|| jd d …d |d …f 7 }| |¡}| |¡}| j dkr€|j
dd�n|d d …df }| |¡}| |¡}|
|¡}|S ©Nú() n d -> b n d©Úbr- r/ rZ r )r^ Úshaper rb rA Úcatra r( rc rW rZ rd r re ©r Úimgr rp ÚnrR Ú
cls_tokensr r r r w s
&
z ViT.forwardc C s� | |¡}|j\}}}t| jd|d�}tj||fdd�}|| jd d …d |d …f 7 }| |¡}| |¡}| j dkr€|j
dd�n|d d …df }| |¡}|S rm ) r^ rq r rb rA rr ra r( rc rW rZ rd rs r r r Úproduce_feature‡ s
&
zViT.produce_featurec C sn | |¡}|j\}}}t| jd|d�}tj||fdd�}|| jd d …d |d …f 7 }| |¡}| |¡}|S ©Nrn ro r- r/ © r^ rq r rb rA rr ra r( rc rs r r r Ú cal_feature— s
zViT.cal_featurec C sn | |¡}|j\}}}t| jd|d�}tj||fdd�}|| jd d …d |d …f 7 }| |¡}| |¡}|S rx ry rs r r r Ú Show_detail¤ s
zViT.Show_detail) r r r r r rw rz r{ r r r r r rU Y s
rU )rA r Zeinopsr r Zeinops.layers.torchr r
ÚModuler r r) rK rU r r r r Ú<module> s
% | 5,881 | Python | .pyt | 56 | 103.875 | 448 | 0.353072 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,945 | vit.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/trainmodel/__pycache__/vit.cpython-37.pyc | B
Ƭdc7 ã @ s– d dl Z d dl mZ d dlmZmZ d dlmZ dd„ ZG dd„ dejƒZ G d d
„ d
ejƒZ
G d d „ d ejƒZ G d
d„ dejƒZ G dd„ dejƒZ
dS )é N)Únn)Ú rearrangeÚrepeat)Ú Rearrangec C s t | tƒr| S | | fS )N)Ú
isinstanceÚtuple)Út© r úC/root/autodl-tmp/PFL-Non-IID-master/system/flcore/trainmodel/vit.pyÚpair s r c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚPreNormc s t ƒ ¡ t |¡| _|| _d S )N)ÚsuperÚ__init__r Ú LayerNormÚnormÚfn)ÚselfÚdimr )Ú __class__r r
r s
zPreNorm.__init__c K s | j | |¡f|ŽS )N)r r )r ÚxÚkwargsr r r
Úforward s zPreNorm.forward)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r )r r
r s r c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )Ú FeedForwardç c sB t ƒ ¡ t t ||¡t ¡ t |¡t ||¡t |¡¡| _d S )N)r
r r Ú
SequentialÚLinearÚGELUÚDropoutÚnet)r r Ú
hidden_dimÚdropout)r r r
r s
zFeedForward.__init__c C s
| |¡S )N)r" )r r r r r
r s zFeedForward.forward)r )r r r r r r r r )r r
r s r c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) Ú Attentioné é@ çš™™™™™¹?c s„ t ƒ ¡ || }|dko ||k }|| _|d | _tjdd�| _tj||d dd�| _|rvt t ||¡t
|¡¡nt ¡ | _ d S )Né g à¿éÿÿÿÿ)r é F)Úbias)
r
r ÚheadsÚscaler ÚSoftmaxÚattendr Úto_qkvr r! ÚIdentityÚto_out)r r r- Údim_headr$ Z inner_dimZ project_out)r r r
r $ s
zAttention.__init__c sp ˆ |¡jddd�}t‡ fdd„|ƒ\}}}t || dd¡¡ˆ j }ˆ |¡}t ||¡}t|dƒ}ˆ |¡S )Nr+ r* )r c s t | dˆ jd�S )Nzb n (h d) -> b h n d)Úh)r r- )r )r r r
Ú<lambda>6 ó z#Attention.forward.<locals>.<lambda>éþÿÿÿzb h n d -> b n (h d))
r1 ÚchunkÚmapÚtorchÚmatmulÚ transposer. r0 r r3 ) r r ÚqkvÚqÚkÚvÚdotsÚattnÚoutr )r r
r 4 s
zAttention.forward)r& r' r( )r r r r r r r r )r r
r% # s r% c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )Ú Transformerç c
sd t ƒ ¡ t g ¡| _xHt|ƒD ]<}| j t t|t||||d�ƒt|t |||d�ƒg¡¡ q W d S )N)r- r4 r$ )r$ )
r
r r Ú
ModuleListÚlayersÚrangeÚappendr r% r )r r Údepthr- r4 Úmlp_dimr$ Ú_)r r r
r I s
zTransformer.__init__c C s< d}x2| j D ](\}}|d7 }||ƒ| }||ƒ| }q W |S )Nr r) )rH )r r ÚllrC Úffr r r
r Q s zTransformer.forward)rF )r r r r r r r r )r r
rE H s rE c sJ e Zd Zddddddœ‡ fdd„
Zdd „ Zd
d „ Zd d
„ Zdd„ Z‡ ZS )ÚViTÚclsr+ r' g )ÚpoolÚchannelsr4 r$ Ú emb_dropoutc s t ƒ ¡ t|ƒ\}
}t|ƒ\}}|
| dkr:|| dksBtdƒ‚|
| || }| | | }|dksntdƒ‚t td||d�t ||¡¡| _t t
d|d |¡¡| _ t t
dd|¡¡| _
t | ¡| _t||||
|| ƒ| _|| _t ¡ | _t |¡| _t ||¡| _d S )Nr z5Image dimensions must be divisible by the patch size.> ÚmeanrQ z?pool type must be either cls (cls token) or mean (mean pooling)z&b c (h p1) (w p2) -> b (h w) (p1 p2 c))Úp1Úp2r) )r
r r ÚAssertionErrorr r r r Úto_patch_embeddingÚ Parameterr; ÚrandnÚ
pos_embeddingÚ cls_tokenr! r$ rE Ú transformerrR r2 Ú to_latentr r Úfc)r Ú
image_sizeÚ
patch_sizeÚ num_classesr rK r- rL rR rS r4 r$ rT Ú image_heightÚ image_widthZ patch_heightZ patch_widthÚ num_patchesÚ patch_dim)r r r
r Z s$
z ViT.__init__c C s² | |¡}|j\}}}t| jd|d�}tj||fdd�}|| jd d …d |d …f 7 }| |¡}| |¡}| j dkr€|j
dd�n|d d …df }| |¡}| |¡}|
|¡}|S )Nz() n d -> b n d)Úbr) )r rU r )rY Úshaper r] r; Úcatr\ r$ r^ rR rU r_ r r` )r Úimgr rh ÚnrM Ú
cls_tokensr r r
r w s
&
z ViT.forwardc C sž | |¡}|j\}}}t| jd|d�}tj||fdd�}|| jd d …d |d …f 7 }| |¡}| |¡}| j dkr€|j
dd�n|d d …df }| |¡}|S )Nz() n d -> b n d)rh r) )r rU r ) rY ri r r] r; rj r\ r$ r^ rR rU r_ )r rk r rh rl rM rm r r r
Úproduce_feature‡ s
&
zViT.produce_featurec C sn | |¡}|j\}}}t| jd|d�}tj||fdd�}|| jd d …d |d …f 7 }| |¡}| |¡}|S )Nz() n d -> b n d)rh r) )r ) rY ri r r] r; rj r\ r$ r^ )r rk r rh rl rM rm r r r
Ú cal_feature— s
zViT.cal_featurec C sn | |¡}|j\}}}t| jd|d�}tj||fdd�}|| jd d …d |d …f 7 }| |¡}| |¡}|S )Nz() n d -> b n d)rh r) )r ) rY ri r r] r; rj r\ r$ r^ )r rk r rh rl rM rm r r r
Ú Show_detail¤ s
zViT.Show_detail) r r r r r rn ro rp r r r )r r
rP Y s
rP )r; r Zeinopsr r Zeinops.layers.torchr r ÚModuler r r% rE rP r r r r
Ú<module> s
% | 6,118 | Python | .pyt | 73 | 82.69863 | 448 | 0.349983 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,946 | models.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/trainmodel/__pycache__/models.cpython-38.pyc | U
>Nÿcbl ã @ s d dl Z d dlmZ d dlm mZ d dlZd dlZd dlm Z d dl
m Z d dl Z
d dlmZmZ d dlmZmZmZmZ dZG dd„ dejƒZG d d
„ d
ejƒZG d d „ d ejƒZG d
d„ dejƒZG dd„ dejƒZ G dd„ dejƒZ G dd„ dejƒZ G dd„ dejƒZ G dd„ dejƒZ dd„ Z!G dd „ d ejƒZ"G d d „ d ejƒZ#G d d „ d ejƒZ$G d!d"„ d"ejƒZ%G d#d$„ d$ejƒZ&G d%d&„ d&ejƒZ'G d'd(„ d(ejƒZ(G d)d*„ d*ejƒZ)G d+d,„ d,ejƒZ*G d-d.„ d.ejƒZ+G d/d0„ d0ejƒZ,G d1d2„ d2ejƒZ-dS )3é N)Úpartial)Ú OrderedDict)ÚIMAGENET_DEFAULT_MEANÚIMAGENET_DEFAULT_STD)Ú
StdConv2dSameÚDropPathÚ to_2tupleÚ
trunc_normal_é c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )Ú
LocalModelc s t t| ƒ ¡ || _|| _d S ©N)Úsuperr Ú__init__ÚbaseÚ predictor)Úselfr r ©Ú __class__© õa D:\京东\promot\第二次投稿\å®�验\æœ�务器\native - pro\system\flcore\trainmodel\models.pyr s zLocalModel.__init__c C s | |¡}| |¡}|S r )r r ©r ÚxÚoutr r r Úforward s
zLocalModel.forward©Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s r c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )Ú
LocalModel_ptc s t t| ƒ ¡ || _|| _d S r )r
r r Ú generatorr )r r r r r r r # s zLocalModel_pt.__init__c C s | |¡}| |¡}|S r )r r r r r r r ) s
zLocalModel_pt.forwardr r r r r r " s r c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚLocalModel_repptc s$ t t| ƒ ¡ || _|| _|| _d S r )r
r! r r r r )r r r r r r r r 0 s zLocalModel_reppt.__init__c C s" | |¡}| |¡}| |¡}|S r )r r r r r r r r 7 s
zLocalModel_reppt.forwardr r r r r r! / s r! c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) Ú FedAvgCNNé é
é c
s� t ƒ ¡ t tj|dddddd�tjdd�tjdd �¡| _t tjdd
ddddd�tjdd�tjdd �¡| _t t |d ¡tjdd�¡| _
t d |¡| _ d S ) Né é r r# T)Ú kernel_sizeÚpaddingÚstrideÚbias©Úinplace)é r. ©r( é@ i ) r
r ÚnnÚ
SequentialÚConv2dÚReLUÚ MaxPool2dÚconv1Úconv2ÚLinearÚfc1Úfc)r Ú in_featuresÚ num_classesÚdimr r r r ` s8
û
ø
û
ø
şzFedAvgCNN.__init__c C s8 | |¡}| |¡}t |d¡}| |¡}| |¡}|S ©Nr# )r6 r7 ÚtorchÚflattenr9 r: r r r r r | s
zFedAvgCNN.forward)r# r$ r% r r r r r r" _ s r" c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) Ú FedAvgMLPé r$ éÈ c s8 t ƒ ¡ t ||¡| _t ||¡| _tjdd�| _d S )NTr, )r
r r1 r8 r9 Úfc2r4 Úact)r r; r< Ú
hidden_dimr r r r ˆ s
zFedAvgMLP.__init__c C s: |j dkr | | d¡d¡}| | |¡¡}| |¡}|S )Né r éÿÿÿÿ)ÚndimÚviewÚsizerE r9 rD ©r r r r r r � s
zFedAvgMLP.forward)rB r$ rC r r r r r rA ‡ s rA c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚNetc sj t t| ƒ ¡ t dtdd¡| _t tddd¡| _t d¡| _ t d¡| _
t dd¡| _ t dd¡| _
d S ) Nr# r. r& g Ğ?ç à?i H é€ r$ )r
rM r r1 r3 Ú
batch_sizer6 r7 ÚDropoutÚdropout1Údropout2r8 r9 r: )r r r r r ˜ s z Net.__init__c C s� | |¡}t ¡ |ƒ}t dd¡|ƒ}| |¡}| |¡}t ¡ |ƒ}t dd¡|ƒ}| |¡}t |d¡}| |¡}t ¡ |ƒ}|
|¡}t j |dd�}|S )Nr. r# ©r= )
r6 r1 r4 r5 rR r7 rS r? r@ r9 r: ÚFÚ log_softmax©r r Úoutputr r r r ¡ s
z Net.forwardr r r r r rM — s rM c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )Ú
Mclr_LogisticrB r$ c s t t| ƒ ¡ t ||¡| _d S r )r
rY r r1 r8 r: )r Ú input_dimr< r r r r ´ s zMclr_Logistic.__init__c C s( t |d¡}| |¡}tj|dd�}|S ©Nr# rT )r? r@ r: rU rV rW r r r r ¸ s
zMclr_Logistic.forward)rB r$ r r r r r rY ³ s rY c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) ÚDNNrB éd r$ c s. t t| ƒ ¡ t ||¡| _t ||¡| _d S r )r
r\ r r1 r8 r9 r: )r rZ Zmid_dimr< r r r r Á s z DNN.__init__c C s8 t |d¡}t | |¡¡}| |¡}tj|dd�}|S r[ )r? r@ rU Úrelur9 r: rV rL r r r r Æ s
z DNN.forward)rB r] r$ r r r r r r\ À s r\ c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )ÚCifarNetr$ c sr t t| ƒ ¡ t ddd¡| _t dd¡| _t dtd¡| _ t
td d d¡| _ t
dd¡| _ t
d|¡| _
d S )Né é r' r. éx éT )r
r_ r r1 r3 r6 r5 ÚpoolrP r7 r8 r9 rD r: )r r< r r r r Ğ s zCifarNet.__init__c C s| | t | |¡¡¡}| t | |¡¡¡}| dtd d ¡}t | |¡¡}t | |¡¡}| |¡}tj
|dd�}|S )NrH r' r# rT ) rd rU r^ r6 r7 rJ rP r9 rD r: rV rL r r r r Ù s
zCifarNet.forward)r$ r r r r r r_ Ï s r_ c C s | j j}| d¡dks$| d¡dkrBtj | j¡ tj | j¡ nZ| d¡dkrrtj | jdd¡ tj | j¡ n*| d¡dkrœtj
| j¡ tj | j¡ d S )Nr3 rH ÚConvTranspose2dZ BatchNormg ğ?g{®Gáz”?r8 ) r r Úfindr1 ÚinitÚkaiming_uniform_ÚweightÚzeros_r+ Únormal_Úxavier_normal_)ÚmÚ classnamer r r Ú init_weights s ro c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) Ú PadPrompterr# é Nc s´ t t| ƒ ¡ |}|}|| _|| _||d | _t t d| j||g¡¡| _
t t d| j||g¡¡| _ t t d| j||d |g¡¡| _ t t d| j||d |g¡¡| _
d S )Nr. r# )r
rp r ÚargsÚinchanelÚ base_sizer1 Ú Parameterr? ÚzerosÚpad_upÚpad_downÚpad_leftÚ pad_right©r rs Úpad_sizeÚ
image_sizerr r r r r s $zPadPrompter.__init__c C sn t d| j| j| j¡ | jj¡}t j| j|| j gdd�}t j| j
|| j gdd�}t | d¡|g ¡}|| S )Nr# r` rT r. r )
r? rv rs rt Útorr ÚdeviceÚcatry rz rw rx rK )r r r Úpromptr r r r ) s
zPadPrompter.forward)r# r# rq Nr r r r r rp s rp c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) ÚFixedPatchPrompterr# rq Nc sJ t t| ƒ ¡ || _|| _|| _t t d| j| j| jg¡¡| _
|| _ d S r> ) r
r‚ r ÚisizeÚpsizers r1 ru r? ÚrandnÚpatchrr r{ r r r r 4 s zFixedPatchPrompter.__init__c C sP t d| j| j| jg¡ | jj¡}| j|d d …d d …d | j…d | j…f< || S r> ) r? rv rs rƒ r~ rr r r† r„ )r r r� r r r r = s "&zFixedPatchPrompter.forward)r# r# rq Nr r r r r r‚ 3 s r‚ c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) ÚRandomPatchPrompterr# rq Nc sJ t t| ƒ ¡ || _|| _|| _t t d| j| j| jg¡¡| _
|| _ d S r> ) r
r‡ r rƒ r„ rs r1 ru r? r… r† rr r{ r r r r E s z RandomPatchPrompter.__init__c C s€ t j | j| j ¡}t j | j| j ¡}t d| j| j| jg¡ | j j
¡}| j |d d …d d …||| j …||| j …f< || S r> ) ÚnpÚrandomÚchoicerƒ r„ r? rv rs r~ rr r r† )r r Úx_Zy_r� r r r r N s
".zRandomPatchPrompter.forward)r# r# rq Nr r r r r r‡ D s r‡ c s& e Zd Zd ‡ fdd„ Zdd„ Z‡ ZS )
ÚLeNeté é r$ Nc
sÌ t t| ƒ ¡ t tjdddd�t d¡t ¡ tjdddd�tjdd�t d¡t ¡ ¡| _ tj
|d d
�| _ tj dd�| _
t ||¡| _| j t¡ t ||¡| _|d kr¼tjj| jd d
�| _| j t¡ d S )Nr# é r' r/ r. é2 rN ©ÚpT)ÚaffineÚwnri )Úname)r
rŒ r r1 r2 r3 r5 r4 Ú Dropout2dÚ conv_paramsÚ BatchNorm1dÚbnrQ Údropoutr8 Ú
bottleneckÚapplyro r: ÚutilsÚ weight_norm)r Ú feature_dimZbottleneck_dimr< Ziswnr r r r X s$
ù zLeNet.__init__c C sV | |¡}| | d¡d¡}| |¡}| |¡}| |¡}| |¡}tj|dd�}|S ©Nr rH r# rT ) r— rJ rK r› r™ rš r: rU rV rL r r r r m s
z
LeNet.forward)r� r� r$ Nr r r r r rŒ W s rŒ c s& e Zd Zd ‡ fdd„ Zd d
„ Z‡ ZS ) ÚLSTMNetr. Fçš™™™™™É?r éK� r$ c s` t ƒ ¡ t |¡| _t |||¡| _tj|||||dd�| _|rJ|d n|}t ||¡| _
d S )NT)Ú
input_sizeÚ hidden_sizeÚ
num_layersÚ
bidirectionalrš Ú batch_firstr. ) r
r r1 rQ rš Ú EmbeddingÚ embeddingÚLSTMÚlstmr8 r: ) r rF r¦ r§ rš Ú padding_idxÚ
vocab_sizer< Údimsr r r r — s
ûzLSTMNet.__init__c C s’ |\}}| |¡}tjjj||ddd�}| |¡\}\}}tjjj|dd�\} }
t | d d …dd d …f ¡} | | ¡} |
| ¡} t j | dd�} | S )NTF)r¨ Úenforce_sorted)r¨ rH r# rT )
rª r1 r� ÚrnnÚpack_padded_sequencer¬ Úpad_packed_sequencer? Úrelu_rš r: rU rV ) r r ÚtextÚ text_lengthsZembeddedZpacked_embeddedZ
packed_outputÚhiddenÚcellr Z out_lengthsr r r r ¦ s
zLSTMNet.forward)r. Fr¢ r r£ r$ r r r r r r¡ – s ÿr¡ c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) ÚfastTextr r£ r$ c s> t t| ƒ ¡ t |||¡| _t ||¡| _t ||¡| _d S r ) r
r¹ r r1 r© rª r8 r9 r: )r rF r r® r< r r r r ¼ s zfastText.__init__c C s> |\}}| |¡}| | d¡¡}| |¡}tj|dd�}|S r[ )rª r9 Úmeanr: rU rV )r r rµ r¶ Ú
embedded_sentÚhÚzr r r r r È s
zfastText.forward)r r£ r$ r r r r r r¹ » s r¹ c s: e Zd Zddddgddddd f‡ fd
d „ Zd d
„ Z‡ ZS )ÚTextCNNr] r` rG r' rC gš™™™™™é?r r£ r$ c sæ t t| ƒ ¡ t |||¡| _t tj|||d d�t ¡ t ||d d ¡¡| _
t tj|||d d�t ¡ t ||d d ¡¡| _ t tj|||d d�t ¡ t ||d d ¡¡| _ t
|¡| _t |t|ƒ |¡| _d S )Nr )Ú in_channelsÚ out_channelsr( r# r. )r
r¾ r r1 r© rª r2 ÚConv1dr4 Ú MaxPool1dr6 r7 Úconv3rQ rš r8 Úlenr: ) r rF Ú num_channelsr( Úmax_lenrš r r® r< r r r r Õ s& ııı zTextCNN.__init__c C s„ |\}}| |¡ ddd¡}| |¡ d¡}| |¡ d¡}| |¡ d¡}t |||fd¡}| |¡} | | ¡}
t
j |
dd�}
|
S )Nr r. r# rT ) rª Úpermuter6 Úsqueezer7 rà r? r€ rš r: rU rV ) r r rµ r¶ r» Z conv_out1Z conv_out2Z conv_out3Zall_outZfinal_feature_mapr r r r r ó s
zTextCNN.forwardr r r r r r¾ Ô s ÿ r¾ c s* e Zd ZdZd
‡ fdd„ Zdd „ Z‡ ZS ) Ú
PatchEmbedz{
Image to Patch Embedding
CNN_proj + Rearrange: [B, C, W, H] -> [B, D, Pn_W, Pn_H] -> [B, D, Pn] -> [B, Pn, D]
éà r
r` é c sd t ƒ ¡ t|ƒ}t|ƒ}|d |d |d |d }|| _|| _|| _tj||||d�| _d S )Nr# r )r( r* ) r
r r Úimg_sizeÚ
patch_sizeÚ num_patchesr1 r3 Úproj)r rÌ rÍ Úin_chansÚ embed_dimrÎ r r r r
s
zPatchEmbed.__init__c
C st |j \}}}}|| jd kr*|| jd ksXtd|› d|› d| jd › d| jd › d� ƒ‚| |¡ d¡ dd¡}|S )Nr r# zInput image size (Ú*z) doesn't match model (z).r. )ÚshaperÌ ÚAssertionErrorrÏ r@ Ú transpose)r r ÚBÚCÚHÚWr r r r s (ÿzPatchEmbed.forward)rÊ r
r` rË ©r r r Ú__doc__r r r r r r r rÉ s rÉ c s4 e Zd ZdZddejdf‡ fdd„ Zdd„ Z‡ ZS )ÚFFNz�
FFN (from timm)
:param in_features:
:param hidden_features:
:param out_features:
:param act_layer:
:param drop:
Nç c sN t ƒ ¡ |p|}|p|}t ||¡| _|ƒ | _t ||¡| _t |¡| _d S r ) r
r r1 r8 r9 rE rD rQ Údrop)r r; Úhidden_featuresÚ out_featuresÚ act_layerrŞ r r r r , s
z FFN.__init__c C s6 | |¡}| |¡}| |¡}| |¡}| |¡}|S r )r9 rE rŞ rD rL r r r r 8 s
z FFN.forward) r r r rÛ r1 ÚGELUr r r r r r r rÜ " s rÜ c s* e Zd ZdZd
‡ fdd„ Zdd „ Z‡ ZS ) Ú Attentiona�
qkv Transform + MSA(MHSA) (from timm)
# input x.shape = batch, patch_number, patch_dim
# output x.shape = batch, patch_number, patch_dim
:param dim: dim=CNN feature dim, because the patch size is 1x1
:param num_heads:
:param qkv_bias:
:param qk_scale: by default head_dim ** -0.5 (squre root)
:param attn_drop: dropout rate after MHSA
:param proj_drop:
é FNrİ c sf t ƒ ¡ || _|| }|p"|d | _tj||d |d�| _t |¡| _t ||¡| _ t |¡| _
d S )Ng à¿r` )r+ ) r
r Ú num_headsÚscaler1 r8 ÚqkvrQ Ú attn_droprÏ Ú proj_drop)r r= rå Úqkv_biasÚqk_scalerè ré Úhead_dimr r r r Q s
zAttention.__init__c
C s´ |j \}}}| |¡ ||d| j|| j ¡ ddddd¡}|d |d |d }}}|| dd¡ | j } | jdd�} | | ¡} | | dd¡ |||¡}| |¡}|
|¡}|S ) Nr` r. r r# rG éşÿÿÿrH rT ) rÓ rç Úreshaperå rÇ rÕ ræ Úsoftmaxrè rÏ ré )
r r ÚbatchZ patch_numberZ patch_dimrç ÚqÚkÚvÚattnr r r r ^ s$ ÿ ÿ
zAttention.forward)rä FNrİ rİ rÚ r r r r rã D s
rã c s: e Zd Zddddddejejf‡ fdd„ Zdd„ Z‡ ZS ) ÚBlockg @FNrİ c sp t ƒ ¡ |
|ƒ| _t||||||d�| _|dkr:t|ƒnt ¡ | _|
|ƒ| _ t
|| ƒ} t || | |d�| _ dS )aê
# input x.shape = batch, patch_number, patch_dim
# output x.shape = batch, patch_number, patch_dim
:param dim: dim
:param num_heads:
:param mlp_ratio: FFN
:param qkv_bias:
:param qk_scale: by default head_dim ** -0.5 (squre root)
:param drop:
:param attn_drop: dropout rate after Attention
:param drop_path: dropout rate after sd
:param act_layer: FFN act
:param norm_layer: Pre Norm
)rå rê rë rè ré rİ )r; rß rá rŞ N)
r
r Únorm1rã rô r r1 ÚIdentityÚ drop_pathÚnorm2ÚintrÜ Úmlp) r r= rå Ú mlp_ratiorê rë rŞ rè rø rá Ú
norm_layerZmlp_hidden_dimr r r r { s
ÿ
zBlock.__init__c C s8 || | | |¡¡¡ }|| | | |¡¡¡ }|S r )rø rô rö rû rù rL r r r r š s z
Block.forward) r r r r1 râ Ú LayerNormr r r r r r r rõ y s
ÿ rõ c sR e Zd ZdZddddddddd d
d d d ed
d
f‡ fd d
„ Zdd„ Zdd„ Z‡ ZS )ÚVisionTransformerz¬
Vision Transformer
A PyTorch impl of : `An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale`
- https://arxiv.org/abs/2010.11929
r& rG r` r$ rO rä g @TNrİ c
sX t ƒ ¡ || _ˆ | _| _d| _ˆp2ttjdd�‰ˆ p<tj ‰ ||||ˆd�| _
| j
j }t t
ddˆ¡¡| _t t
d|| j ˆ¡¡| _tjˆd�| _dd„ t
d|
|¡D ƒ‰tj‡ ‡‡‡‡‡‡‡‡f d d„t|ƒD ƒ� | _ˆˆƒ| _|
�r |
| _t td
t ˆ|
¡fd t ¡ fgƒ¡| _n
t ¡ | _| jdk�rDt | j| j¡nt ¡ | _ d | _ d S )
aš
Args:
img_size (int, tuple): input image size
patch_size (int, tuple): patch size
in_chans (int): number of input channels
num_classes (int): number of classes for classification head
embed_dim (int): embedding dimension
depth (int): depth of transformer
num_heads (int): number of attention heads
mlp_ratio (int): ratio of mlp hidden dim to embedding dim
qkv_bias (bool): enable bias for qkv if True
representation_size (Optional[int]): enable and set representation layer (pre-logits) to this value if set
drop_rate (float): dropout rate
attn_drop_rate (float): attention dropout rate
drop_path_rate (float): stochastic depth rate
embed_layer (nn.Module): patch embedding layer
norm_layer: (nn.Module): normalization layer
r# g�íµ ÷Æ°>)Úeps)rÌ rÍ rĞ rÑ r‘ c S s g | ] }| ¡ ‘qS r )Úitem)Ú.0r r r r Ú
<listcomp>Ò s z.VisionTransformer.__init__.<locals>.<listcomp>r c
s* g | ]"}t ˆˆˆˆˆˆˆ| ˆˆ d � ‘qS )) r= rå rü rê rŞ rè rø rı rá )rõ )r Úi© rá Úattn_drop_rateZdprÚ drop_raterÑ rü rı rå rê r r r Õ s ş ÿr: rE N) r
r r< Ú num_featuresrÑ Z
num_tokensr r1 rş râ Ú patch_embedrÎ ru r? rv Ú cls_tokenÚ pos_embedrQ Úpos_dropÚlinspacer2 ÚrangeÚblocksÚnormr r8 ÚTanhÚ
pre_logitsr÷ r: Z head_dist)r rÌ rÍ rĞ r< rÑ Údepthrå rü rê Úrepresentation_sizer r Zdrop_path_rateZ embed_layerrı rá rÎ r r r r ª s<
ÿ ı
ş
&zVisionTransformer.__init__c C sZ | |¡}| j |jd dd¡}tj||fdd�}| || j ¡}| |¡}| |¡}|S r )
r r
ÚexpandrÓ r? r€ r r r r )r r r
r r r Úforward_featuresë s
z"VisionTransformer.forward_featuresc C s. | |¡}| |d d …df ¡}| |¡}|S )Nr )r r r: rL r r r r ö s
zVisionTransformer.forward) r r r rÛ rÉ r r r r r r r r rÿ £ s şA rÿ ).r? Útorch.nnr1 Útorch.nn.functionalÚ
functionalrU ÚmathÚloggingÚ functoolsr Ú collectionsr Únumpyrˆ Z timm.datar r Ztimm.models.layersr r r r rP ÚModuler r r! r" rA rM rY r\ r_ ro rp r‚ r‡ rŒ r¡ r¹ r¾ rÉ rÜ rã rõ rÿ r r r r Ú<module> s@
0(
@
?%0 "5* | 21,084 | Python | .pyt | 210 | 97.457143 | 663 | 0.359138 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,947 | mobilenet_v2.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/trainmodel/__pycache__/mobilenet_v2.cpython-37.pyc | B
Ê:cc ã @ sv d dl mZ d dlmZ ddgZddiZddd„ZG d d
„ d
ejƒZG d d „ d ej ƒZ
G d
d„ dej ƒZ ddd„Z dS )é )Únn)Úload_state_dict_from_urlÚ MobileNetV2Ú mobilenet_v2z=https://download.pytorch.org/models/mobilenet_v2-b0353104.pthNc C sB |dkr |}t |t| |d ƒ| | ƒ}|d| k r>||7 }|S )aD
This function is taken from the original tf repo.
It ensures that all layers have a channel number that is divisible by 8
It can be seen here:
https://github.com/tensorflow/models/blob/master/research/slim/nets/mobilenet/mobilenet.py
:param v:
:param divisor:
:param min_value:
:return:
Né gÍÌÌÌÌÌì?)ÚmaxÚint)ÚvÚdivisorÚ min_valueÚnew_v© r
úL/root/autodl-tmp/PFL-Non-IID-master/system/flcore/trainmodel/mobilenet_v2.pyÚ_make_divisible
s r c s e Zd Zd‡ fdd„ Z‡ ZS )Ú
ConvBNReLUé é Nc sR |d d }|d krt j}tt| ƒ t j||||||dd�||ƒt jdd�¡ d S )Nr r F)ÚgroupsÚbiasT)Úinplace)r Ú BatchNorm2dÚsuperr Ú__init__ÚConv2dÚReLU6)ÚselfÚ in_planesÚ
out_planesÚ kernel_sizeÚstrider Ú
norm_layerÚpadding)Ú __class__r
r r " s
zConvBNReLU.__init__)r r r N)Ú__name__Ú
__module__Ú __qualname__r Ú
__classcell__r
r
)r" r r ! s r c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )ÚInvertedResidualNc s¸ t t| ƒ ¡ || _|dks t‚|d kr.tj}tt|| ƒƒ}| jdkoN||k| _ g }|dkrt|
t ||d|d�¡ | t |||||d�tj
||ddddd�||ƒg¡ tj|� | _d S )N)r r r )r r )r r r r F)r )r r' r r ÚAssertionErrorr r r ÚroundÚuse_res_connectÚappendr Úextendr Ú
SequentialÚconv)r ÚinpÚoupr Ú expand_ratior Ú
hidden_dimÚlayers)r" r
r r . s zInvertedResidual.__init__c C s" | j r|| |¡ S | |¡S d S )N)r* r. )r Úxr
r
r ÚforwardF s zInvertedResidual.forward)N)r# r$ r% r r5 r& r
r
)r" r r' - s r' c s. e Zd Zd ‡ fdd„ Zdd„ Zd d
„ Z‡ ZS ) r éè ç ğ?Né c s< t t| ƒ ¡ |dkrt}|dkr(tj}d}d}|dkr‚ddddgddddgddd dgdd
d dgdd d dgdd
d dgddddgg}t|ƒdks�t|d ƒd kr¬td |¡ƒ‚t || |ƒ}t |t
d|ƒ |ƒ| _ t d |d|d�g} xd|D ]\\}
} } }
t | | |ƒ}x@t
| ƒD ]4}|dk�r |
nd}| |||||
|d�¡ |}�q W qèW | t || j d|d�¡ tj| � | _t d¡| _t | j |¡| _x®| ¡ D ]¢}t|tjƒ�rÒtjj|jdd� |jdk �r2tj |j¡ n`t|tjtj fƒ�rtj |j¡ tj |j¡ n.t|tjƒ�r’tj |jdd¡ tj |j¡ �q’W dS )aA
MobileNet V2 main class
Args:
num_classes (int): Number of classes
width_mult (float): Width multiplier - adjusts number of channels in each layer by this amount
inverted_residual_setting: Network structure
round_nearest (int): Round the number of channels in each layer to be a multiple of this number
Set to 1 to turn off rounding
block: Module specifying inverted residual building block for mobilenet
norm_layer: Module specifying the normalization layer to use
Né i r é é é r r é@ é é` é i@ r zIinverted_residual_setting should be non-empty or a 4-element list, got {}g ğ?)r r )r1 r )r r gš™™™™™É?Úfan_out)Úmodeg{®Gáz„?) r r r r' r r ÚlenÚ
ValueErrorÚformatr r Ú last_channelr Úranger+ r- ÚfeaturesÚDropoutÚdropoutÚLinearÚfcÚmodulesÚ
isinstancer ÚinitÚkaiming_normal_Úweightr Úzeros_Ú GroupNormÚones_Únormal_)r Ú num_classesÚ
width_multÚinverted_residual_settingÚ
round_nearestÚblockr Ú
input_channelrF rH ÚtÚcÚnÚsÚoutput_channelÚir Úm)r" r
r r N sT
zMobileNetV2.__init__c C s> | |¡}tj |d¡ |jd d¡}| |¡}| |¡}|S )Nr r éÿÿÿÿ)rH r Ú
functionalÚadaptive_avg_pool2dÚreshapeÚshaperJ rL )r r4 r
r
r Ú
_forward_implŸ s
zMobileNetV2._forward_implc C s
| |¡S )N)rh )r r4 r
r
r r5 © s zMobileNetV2.forward)r6 r7 Nr8 NN)r# r$ r% r rh r5 r& r
r
)r" r r M s K
FTc K sh t f |�}| rdttd |d�}i }x6| ¡ D ]*\}}d|krF|||< q,||| dd¡< q,W | |¡ |S )aC
Constructs a MobileNetV2 architecture from
`"MobileNetV2: Inverted Residuals and Linear Bottlenecks" <https://arxiv.org/abs/1801.04381>`_.
Args:
pretrained (bool): If True, returns a model pre-trained on ImageNet
progress (bool): If True, displays a progress bar of the download to stderr
r )ÚprogressÚ
classifierz classifier.1rL )r r Ú
model_urlsÚitemsÚreplaceÚload_state_dict)Ú
pretrainedri ÚkwargsÚmodelÚ
state_dictÚnew_dictÚkr r
r
r r s
)N)FT)
Útorchr Z torch.hubr Ú__all__rk r r- r ÚModuler' r r r
r
r
r Ú<module> s
` | 5,660 | Python | .pyt | 67 | 80.761194 | 395 | 0.473618 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,948 | alexnet.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/trainmodel/__pycache__/alexnet.cpython-38.pyc | U
”jfc) ã @ sP d dl Z d dlmZ d dlmZ ddgZddiZG dd„ dejƒZd
d d„Z dS ) é N)Úload_state_dict_from_urlÚAlexNetÚalexnetz<https://download.pytorch.org/models/alexnet-owt-4df8aa71.pthc s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )r éè c s t t| ƒ ¡ t tjdddddd�tjdd�tjddd �tjdd
d dd �tjdd�tjddd �tjd
d
ddd �tjdd�tjd
dddd �tjdd�tjddddd �tjdd�tjddd �¡
| _t d¡| _
t t ¡ t dd¡tjdd�t ¡ t dd¡tjdd�¡| _
t d|¡| _d S )Né é@ é é é )Ú kernel_sizeÚstrideÚpaddingT)Úinplace)r r éÀ é )r r
i€ é é )é r i $ i )Úsuperr Ú__init__ÚnnÚ
SequentialÚConv2dÚReLUÚ MaxPool2dÚfeaturesÚAdaptiveAvgPool2dÚavgpoolÚDropoutÚLinearÚ
classifierÚfc)ÚselfÚ num_classes©Ú __class__© õL D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\trainmodel\alexnet.pyr s4
ó
úzAlexNet.__init__c C s8 | |¡}| |¡}t |d¡}| |¡}| |¡}|S )Nr )r r ÚtorchÚflattenr r! )r" Úxr& r& r' Úforward+ s
zAlexNet.forward)r )Ú__name__Ú
__module__Ú __qualname__r r+ Ú
__classcell__r& r& r$ r' r
s FTc K sd t f |�}| r`ttd |d�}i }| ¡ D ]*\}}d|krD|||< q*||| dd¡< q*| |¡ |S )a AlexNet model architecture from the
`"One weird trick..." <https://arxiv.org/abs/1404.5997>`_ paper.
Args:
pretrained (bool): If True, returns a model pre-trained on ImageNet
progress (bool): If True, displays a progress bar of the download to stderr
r )Úprogressz classifier.6r! )r r Ú
model_urlsÚitemsÚreplaceÚload_state_dict)Ú
pretrainedr0 ÚkwargsÚmodelÚ
state_dictÚnew_dictÚkÚvr& r& r' r 4 s
ÿ
)FT)
r( Útorch.nnr Z torch.hubr Ú__all__r1 ÚModuler r r& r& r& r' Ú<module> s ÿ' | 2,184 | Python | .pyt | 34 | 62.352941 | 303 | 0.465581 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,949 | models.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/trainmodel/__pycache__/models.cpython-37.pyc | B
éecTg ã @ sä d dl Z d dlmZ d dlm mZ d dlZd dlZd dlm Z d dl
m Z d dl Z
d dlmZmZ d dlmZmZmZmZ dZG dd„ dejƒZG d d
„ d
ejƒZG d d „ d ejƒZG d
d„ dejƒZG dd„ dejƒZ G dd„ dejƒZ G dd„ dejƒZ G dd„ dejƒZ G dd„ dejƒZ dd„ Z!G dd „ d ejƒZ"G d d „ d ejƒZ#G d d „ d ejƒZ$G d!d"„ d"ejƒZ%G d#d$„ d$ejƒZ&G d%d&„ d&ejƒZ'G d'd(„ d(ejƒZ(G d)d*„ d*ejƒZ)G d+d,„ d,ejƒZ*G d-d.„ d.ejƒZ+dS )/é N)Úpartial)Ú OrderedDict)ÚIMAGENET_DEFAULT_MEANÚIMAGENET_DEFAULT_STD)Ú
StdConv2dSameÚDropPathÚ to_2tupleÚ
trunc_normal_é c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )Ú
LocalModelc s t t| ƒ ¡ || _|| _d S )N)Úsuperr Ú__init__ÚbaseÚ predictor)Úselfr r )Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/trainmodel/models.pyr
s zLocalModel.__init__c C s | |¡}| |¡}|S )N)r r )r ÚxÚoutr r r Úforward s
zLocalModel.forward)Ú__name__Ú
__module__Ú __qualname__r
r Ú
__classcell__r r )r r r s r c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )Ú
LocalModel_ptc s t t| ƒ ¡ || _|| _d S )N)r r r
Ú generatorr )r r r )r r r r
# s zLocalModel_pt.__init__c C s | |¡}| |¡}|S )N)r r )r r r r r r r ) s
zLocalModel_pt.forward)r r r r
r r r r )r r r " s r c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚLocalModel_repptc s$ t t| ƒ ¡ || _|| _|| _d S )N)r r r
r r r )r r r r )r r r r
0 s zLocalModel_reppt.__init__c C s" | |¡}| |¡}| |¡}|S )N)r r r )r r r r r r r 7 s
zLocalModel_reppt.forward)r r r r
r r r r )r r r / s r c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) Ú FedAvgCNNé é
é c
s� t ƒ ¡ t tj|dddddd�tjdd�tjdd �¡| _t tjdd
ddddd�tjdd�tjdd �¡| _t t |d ¡tjdd�¡| _
t d |¡| _ d S ) Né é r r T)Ú kernel_sizeÚpaddingÚstrideÚbias)Úinplace)é r) )r$ é@ i ) r r
ÚnnÚ
SequentialÚConv2dÚReLUÚ MaxPool2dÚconv1Úconv2ÚLinearÚfc1Úfc)r Ú in_featuresÚ num_classesÚdim)r r r r
` s.
zFedAvgCNN.__init__c C s8 | |¡}| |¡}t |d¡}| |¡}| |¡}|S )Nr )r0 r1 ÚtorchÚflattenr3 r4 )r r r r r r r | s
zFedAvgCNN.forward)r r r! )r r r r
r r r r )r r r _ s r c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) Ú FedAvgMLPé r éÈ c s8 t ƒ ¡ t ||¡| _t ||¡| _tjdd�| _d S )NT)r( )r r
r+ r2 r3 Úfc2r. Úact)r r5 r6 Ú
hidden_dim)r r r r
ˆ s
zFedAvgMLP.__init__c C s: |j dkr | | d¡d¡}| | |¡¡}| |¡}|S )Né r éÿÿÿÿ)ÚndimÚviewÚsizer> r3 r= )r r r r r r � s
zFedAvgMLP.forward)r; r r< )r r r r
r r r r )r r r: ‡ s r: c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚNetc sj t t| ƒ ¡ t dtdd¡| _t tddd¡| _t d¡| _ t d¡| _
t dd¡| _ t dd¡| _
d S ) Nr r) r" g Ğ?g à?i H é€ r )r rE r
r+ r- Ú
batch_sizer0 r1 ÚDropoutÚdropout1Údropout2r2 r3 r4 )r )r r r r
˜ s z Net.__init__c C s� | |¡}t ¡ |ƒ}t dd¡|ƒ}| |¡}| |¡}t ¡ |ƒ}t dd¡|ƒ}| |¡}t |d¡}| |¡}t ¡ |ƒ}|
|¡}t j |dd�}|S )Nr) r )r7 )
r0 r+ r. r/ rI r1 rJ r8 r9 r3 r4 ÚFÚ log_softmax)r r Úoutputr r r r ¡ s
z Net.forward)r r r r
r r r r )r r rE — s rE c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )Ú
Mclr_Logisticé r c s t t| ƒ ¡ t ||¡| _d S )N)r rN r
r+ r2 r4 )r Ú input_dimr6 )r r r r
´ s zMclr_Logistic.__init__c C s( t |d¡}| |¡}tj|dd�}|S )Nr )r7 )r8 r9 r4 rK rL )r r rM r r r r ¸ s
zMclr_Logistic.forward)rO r )r r r r
r r r r )r r rN ³ s rN c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) ÚDNNé éd r c s. t t| ƒ ¡ t ||¡| _t ||¡| _d S )N)r rQ r
r+ r2 r3 r4 )r rP Zmid_dimr6 )r r r r
Á s z DNN.__init__c C s8 t |d¡}t | |¡¡}| |¡}tj|dd�}|S )Nr )r7 )r8 r9 rK Úrelur3 r4 rL )r r r r r r Æ s
z DNN.forward)rR rS r )r r r r
r r r r )r r rQ À s rQ c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )ÚCifarNetr c sr t t| ƒ ¡ t ddd¡| _t dd¡| _t dtd¡| _ t
td d d¡| _ t
dd¡| _ t
d|¡| _
d S )Né é r# r) éx éT )r rU r
r+ r- r0 r/ ÚpoolrG r1 r2 r3 r= r4 )r r6 )r r r r
Ğ s zCifarNet.__init__c C s| | t | |¡¡¡}| t | |¡¡¡}| dtd d ¡}t | |¡¡}t | |¡¡}| |¡}tj
|dd�}|S )NrA r# r )r7 ) rZ rK rT r0 r1 rC rG r3 r= r4 rL )r r r r r r Ù s
zCifarNet.forward)r )r r r r
r r r r )r r rU Ï s rU c C s | j j}| d¡dks$| d¡dkrBtj | j¡ tj | j¡ nZ| d¡dkrrtj | jdd¡ tj | j¡ n*| d¡dkrœtj
| j¡ tj | j¡ d S )Nr- rA ÚConvTranspose2dZ BatchNormg ğ?g{®Gáz”?r2 ) r r Úfindr+ ÚinitÚkaiming_uniform_ÚweightÚzeros_r' Únormal_Úxavier_normal_)ÚmÚ classnamer r r Ú init_weights s re c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) Ú PadPrompterr é Nc s´ t t| ƒ ¡ |}|}|| _|| _||d | _t t d| j||g¡¡| _
t t d| j||g¡¡| _ t t d| j||d |g¡¡| _ t t d| j||d |g¡¡| _
d S )Nr) r )r rf r
ÚargsÚinchanelÚ base_sizer+ Ú Parameterr8 ÚrandnÚpad_upÚpad_downÚpad_leftÚ pad_right)r ri Úpad_sizeÚ
image_sizerh )r r r r
s $zPadPrompter.__init__c C sn t d| j| j| j¡ | jj¡}t j| j|| j gdd�}t j| j
|| j gdd�}t | d¡|g ¡}|| S )Nr rV )r7 r) r )
r8 Úzerosri rj Útorh ÚdeviceÚcatro rp rm rn rD )r r r Úpromptr r r r ) s
zPadPrompter.forward)r r rg N)r r r r
r r r r )r r rf s rf c s& e Zd Zd ‡ fdd„ Zdd„ Z‡ ZS )
ÚLeNeté é r Nc
sÌ t t| ƒ ¡ t tjdddd�t d¡t ¡ tjdddd�tjdd�t d¡t ¡ ¡| _ tj
|d d
�| _ tj dd�| _
t ||¡| _| j t¡ t ||¡| _|d kr¼tjj| jd d
�| _| j t¡ d S )Nr é r# )r$ r) é2 g à?)ÚpT)ÚaffineÚwnr_ )Úname)r rx r
r+ r, r- r/ r. Ú Dropout2dÚ conv_paramsÚ BatchNorm1dÚbnrH Údropoutr2 Ú
bottleneckÚapplyre r4 ÚutilsÚ weight_norm)r Ú feature_dimZbottleneck_dimr6 Ziswn)r r r r
4 s"
zLeNet.__init__c C sV | |¡}| | d¡d¡}| |¡}| |¡}| |¡}| |¡}tj|dd�}|S )Nr rA r )r7 ) r‚ rC rD r† r„ r… r4 rK rL )r r r r r r I s
z
LeNet.forward)ry rz r N)r r r r
r r r r )r r rx 3 s rx c s& e Zd Zd ‡ fdd„ Zd d
„ Z‡ ZS ) ÚLSTMNetr) Fçš™™™™™É?r éK� r c s` t ƒ ¡ t |¡| _t |||¡| _tj|||||dd�| _|rJ|d n|}t ||¡| _
d S )NT)Ú
input_sizeÚ hidden_sizeÚ
num_layersÚ
bidirectionalr… Ú batch_firstr) ) r r
r+ rH r… Ú EmbeddingÚ embeddingÚLSTMÚlstmr2 r4 ) r r? r� r‘ r… Ú padding_idxÚ
vocab_sizer6 Údims)r r r r
s s
zLSTMNet.__init__c C s’ |\}}| |¡}tjjj||ddd�}| |¡\}\}}tjjj|dd�\} }
t | d d …dd d …f ¡} | | ¡} |
| ¡} t j | dd�} | S )NTF)r’ Úenforce_sorted)r’ rA r )r7 )
r” r+ rˆ ÚrnnÚpack_padded_sequencer– Úpad_packed_sequencer8 Úrelu_r… r4 rK rL ) r r ÚtextÚ text_lengthsZembeddedZpacked_embeddedZ
packed_outputÚhiddenÚcellr Z out_lengthsr r r r ‚ s
zLSTMNet.forward)r) FrŒ r r� r )r r r r
r r r r )r r r‹ r s r‹ c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) ÚfastTextr éK� r c s> t t| ƒ ¡ t |||¡| _t ||¡| _t ||¡| _d S )N) r r£ r
r+ r“ r” r2 r3 r4 )r r? r— r˜ r6 )r r r r
˜ s zfastText.__init__c C s> |\}}| |¡}| | d¡¡}| |¡}tj|dd�}|S )Nr )r7 )r” r3 Úmeanr4 rK rL )r r rŸ r Ú
embedded_sentÚhÚzr r r r r ¤ s
zfastText.forward)r r¤ r )r r r r
r r r r )r r r£ — s r£ c s: e Zd Zddddgddddd f‡ fd
d „ Zd d
„ Z‡ ZS )ÚTextCNNrS rV r@ r# r< gš™™™™™é?r iK� r c sæ t t| ƒ ¡ t |||¡| _t tj|||d d�t ¡ t ||d d ¡¡| _
t tj|||d d�t ¡ t ||d d ¡¡| _ t tj|||d d�t ¡ t ||d d ¡¡| _ t
|¡| _t |t|ƒ |¡| _d S )Nr )Ú in_channelsÚ out_channelsr$ r r) )r r© r
r+ r“ r” r, ÚConv1dr. Ú MaxPool1dr0 r1 Úconv3rH r… r2 Úlenr4 ) r r? Ú num_channelsr$ Úmax_lenr… r— r˜ r6 )r r r r
± s zTextCNN.__init__c C s„ |\}}| |¡ ddd¡}| |¡ d¡}| |¡ d¡}| |¡ d¡}t |||fd¡}| |¡} | | ¡}
t
j |
dd�}
|
S )Nr r) r )r7 ) r” Úpermuter0 Úsqueezer1 r® r8 rv r… r4 rK rL ) r r rŸ r r¦ Z conv_out1Z conv_out2Z conv_out3Úall_outZfinal_feature_mapr r r r r Ï s
zTextCNN.forward)r r r r
r r r r )r r r© ° s r© c s* e Zd ZdZd
‡ fdd„ Zdd „ Z‡ ZS ) Ú
PatchEmbedz{
Image to Patch Embedding
CNN_proj + Rearrange: [B, C, W, H] -> [B, D, Pn_W, Pn_H] -> [B, D, Pn] -> [B, Pn, D]
éà r
rV é c sd t ƒ ¡ t|ƒ}t|ƒ}|d |d |d |d }|| _|| _|| _tj||||d�| _d S )Nr r )r$ r& ) r r
r Úimg_sizeÚ
patch_sizeÚ num_patchesr+ r- Úproj)r r¸ r¹ Úin_chansÚ embed_dimrº )r r r r
æ s
zPatchEmbed.__init__c
C st |j \}}}}|| jd kr*|| jd ksXtd|› d|› d| jd › d| jd › d� ƒ‚| |¡ d¡ dd¡}|S )Nr r zInput image size (Ú*z) doesn't match model (z).r) )Úshaper¸ ÚAssertionErrorr» r9 Ú transpose)r r ÚBÚCÚHÚWr r r r ñ s
,zPatchEmbed.forward)r¶ r
rV r· )r r r Ú__doc__r
r r r r )r r rµ à s rµ c s4 e Zd ZdZddejdf‡ fdd„ Zdd„ Z‡ ZS )ÚFFNz�
FFN (from timm)
:param in_features:
:param hidden_features:
:param out_features:
:param act_layer:
:param drop:
Ng c sN t ƒ ¡ |p|}|p|}t ||¡| _|ƒ | _t ||¡| _t |¡| _d S )N) r r
r+ r2 r3 r> r= rH Údrop)r r5 Úhidden_featuresÚ out_featuresÚ act_layerrÈ )r r r r
s
z FFN.__init__c C s6 | |¡}| |¡}| |¡}| |¡}| |¡}|S )N)r3 r> rÈ r= )r r r r r r s
z FFN.forward) r r r rÆ r+ ÚGELUr
r r r r )r r rÇ ş s rÇ c s* e Zd ZdZd
‡ fdd„ Zdd „ Z‡ ZS ) Ú Attentiona�
qkv Transform + MSA(MHSA) (from timm)
# input x.shape = batch, patch_number, patch_dim
# output x.shape = batch, patch_number, patch_dim
:param dim: dim=CNN feature dim, because the patch size is 1x1
:param num_heads:
:param qkv_bias:
:param qk_scale: by default head_dim ** -0.5 (squre root)
:param attn_drop: dropout rate after MHSA
:param proj_drop:
é FNç c sf t ƒ ¡ || _|| }|p"|d | _tj||d |d�| _t |¡| _t ||¡| _ t |¡| _
d S )Ng à¿rV )r' ) r r
Ú num_headsÚscaler+ r2 ÚqkvrH Ú attn_dropr» Ú proj_drop)r r7 rĞ Úqkv_biasÚqk_scalerÓ rÔ Úhead_dim)r r r r
- s
zAttention.__init__c
C s´ |j \}}}| |¡ ||d| j|| j ¡ ddddd¡}|d |d |d }}}|| dd¡ | j } | jdd�} | | ¡} | | dd¡ |||¡}| |¡}|
|¡}|S ) NrV r) r r r@ éşÿÿÿrA )r7 ) r¿ rÒ ÚreshaperĞ r² rÁ rÑ ÚsoftmaxrÓ r» rÔ )
r r ÚbatchZ patch_numberZ patch_dimrÒ ÚqÚkÚvÚattnr r r r : s
zAttention.forward)rÎ FNrÏ rÏ )r r r rÆ r
r r r r )r r rÍ s
rÍ c s: e Zd Zddddddejejf‡ fdd„ Zdd„ Z‡ ZS ) ÚBlockg @FNg c sp t ƒ ¡ |
|ƒ| _t||||||d�| _|dkr:t|ƒnt ¡ | _|
|ƒ| _ t
|| ƒ} t || | |d�| _ dS )aê
# input x.shape = batch, patch_number, patch_dim
# output x.shape = batch, patch_number, patch_dim
:param dim: dim
:param num_heads:
:param mlp_ratio: FFN
:param qkv_bias:
:param qk_scale: by default head_dim ** -0.5 (squre root)
:param drop:
:param attn_drop: dropout rate after Attention
:param drop_path: dropout rate after sd
:param act_layer: FFN act
:param norm_layer: Pre Norm
)rĞ rÕ rÖ rÓ rÔ g )r5 rÉ rË rÈ N)
r r
Únorm1rÍ rß r r+ ÚIdentityÚ drop_pathÚnorm2ÚintrÇ Úmlp) r r7 rĞ Ú mlp_ratiorÕ rÖ rÈ rÓ rã rË Ú
norm_layerZmlp_hidden_dim)r r r r
W s
zBlock.__init__c C s8 || | | |¡¡¡ }|| | | |¡¡¡ }|S )N)rã rß rá ræ rä )r r r r r r v s z
Block.forward) r r r r+ rÌ Ú LayerNormr
r r r r )r r rà U s
rà c sR e Zd ZdZddddddddd d
d d d ed
d
f‡ fd d
„ Zdd„ Zdd„ Z‡ ZS )ÚVisionTransformerz¬
Vision Transformer
A PyTorch impl of : `An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale`
- https://arxiv.org/abs/2010.11929
r" r
rV r rF rÎ g @TNg c
sX t ƒ ¡ || _ˆ | _| _d| _ˆp2ttjdd�‰ˆ p<tj ‰ ||||ˆd�| _
| j
j }t t
ddˆ¡¡| _t t
d|| j ˆ¡¡| _tjˆd�| _dd„ t
d|
|¡D ƒ‰tj‡ ‡‡‡‡‡‡‡‡f d d„t|ƒD ƒ� | _ˆˆƒ| _|
�r |
| _t td
t ˆ|
¡fd t ¡ fgƒ¡| _n
t ¡ | _| jdk�rDt | j| j¡nt ¡ | _ d | _ d S )
aš
Args:
img_size (int, tuple): input image size
patch_size (int, tuple): patch size
in_chans (int): number of input channels
num_classes (int): number of classes for classification head
embed_dim (int): embedding dimension
depth (int): depth of transformer
num_heads (int): number of attention heads
mlp_ratio (int): ratio of mlp hidden dim to embedding dim
qkv_bias (bool): enable bias for qkv if True
representation_size (Optional[int]): enable and set representation layer (pre-logits) to this value if set
drop_rate (float): dropout rate
attn_drop_rate (float): attention dropout rate
drop_path_rate (float): stochastic depth rate
embed_layer (nn.Module): patch embedding layer
norm_layer: (nn.Module): normalization layer
r g�íµ ÷Æ°>)Úeps)r¸ r¹ r¼ r½ )r} c S s g | ] }| ¡ ‘qS r )Úitem)Ú.0r r r r ú
<listcomp>® s z.VisionTransformer.__init__.<locals>.<listcomp>r c
s* g | ]"}t ˆˆˆˆˆˆˆ| ˆˆ d � ‘qS )) r7 rĞ rç rÕ rÈ rÓ rã rè rË )rà )rí Úi) rË Úattn_drop_rateÚdprÚ drop_rater½ rç rè rĞ rÕ r r rî ² s r4 r> N) r r
r6 Ú num_featuresr½ Z
num_tokensr r+ ré rÌ Ú patch_embedrº rk r8 rs Ú cls_tokenÚ pos_embedrH Úpos_dropÚlinspacer, ÚrangeÚblocksÚnormr r2 ÚTanhÚ
pre_logitsrâ r4 Z head_dist)r r¸ r¹ r¼ r6 r½ ÚdepthrĞ rç rÕ Úrepresentation_sizerò rğ Zdrop_path_rateZ embed_layerrè rË rº )r ) rË rğ rñ rò r½ rç rè rĞ rÕ r r
† s2
&zVisionTransformer.__init__c C sZ | |¡}| j |jd dd¡}tj||fdd�}| || j ¡}| |¡}| |¡}|S )Nr rA r )r7 )
rô rõ Úexpandr¿ r8 rv r÷ rö rú rû )r r rõ r r r Úforward_featuresÇ s
z"VisionTransformer.forward_featuresc C s. | |¡}| |d d …df ¡}| |¡}|S )Nr )r rı r4 )r r r r r r Ò s
zVisionTransformer.forward) r r r rÆ rµ r
r r r r r )r r rê s ? rê ),r8 Útorch.nnr+ Útorch.nn.functionalÚ
functionalrK ÚmathÚloggingÚ functoolsr Ú collectionsr ÚnumpyÚnpZ timm.datar r Ztimm.models.layersr r r r rG ÚModuler r r r r: rE rN rQ rU re rf rx r‹ r£ r© rµ rÇ rÍ rà rê r r r r Ú<module> s<
0(
@
?%0 "5* | 19,905 | Python | .pyt | 200 | 96.485 | 658 | 0.361362 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,950 | alexnet.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/trainmodel/__pycache__/alexnet.cpython-37.pyc | B
Ê:cc) ã @ sP d dl Z d dlmZ d dlmZ ddgZddiZG dd„ dejƒZd
d d„Z dS ) é N)Úload_state_dict_from_urlÚAlexNetÚalexnetz<https://download.pytorch.org/models/alexnet-owt-4df8aa71.pthc s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )r éè c s t t| ƒ ¡ t tjdddddd�tjdd�tjddd �tjdd
d dd �tjdd�tjddd �tjd
d
ddd �tjdd�tjd
dddd �tjdd�tjddddd �tjdd�tjddd �¡
| _t d¡| _
t t ¡ t dd¡tjdd�t ¡ t dd¡tjdd�¡| _
t d|¡| _d S )Né é@ é é é )Ú kernel_sizeÚstrideÚpaddingT)Úinplace)r r éÀ é )r r
i€ é é )é r i $ i )Úsuperr Ú__init__ÚnnÚ
SequentialÚConv2dÚReLUÚ MaxPool2dÚfeaturesÚAdaptiveAvgPool2dÚavgpoolÚDropoutÚLinearÚ
classifierÚfc)ÚselfÚ num_classes)Ú __class__© úG/root/autodl-tmp/PFL-Non-IID-master/system/flcore/trainmodel/alexnet.pyr s0
zAlexNet.__init__c C s8 | |¡}| |¡}t |d¡}| |¡}| |¡}|S )Nr )r r ÚtorchÚflattenr r! )r" Úxr% r% r& Úforward+ s
zAlexNet.forward)r )Ú__name__Ú
__module__Ú __qualname__r r* Ú
__classcell__r% r% )r$ r& r
s FTc K sh t f |�}| rdttd |d�}i }x6| ¡ D ]*\}}d|krF|||< q,||| dd¡< q,W | |¡ |S )a AlexNet model architecture from the
`"One weird trick..." <https://arxiv.org/abs/1404.5997>`_ paper.
Args:
pretrained (bool): If True, returns a model pre-trained on ImageNet
progress (bool): If True, displays a progress bar of the download to stderr
r )Úprogressz classifier.6r! )r r Ú
model_urlsÚitemsÚreplaceÚload_state_dict)Ú
pretrainedr/ ÚkwargsÚmodelÚ
state_dictÚnew_dictÚkÚvr% r% r& r 4 s
)FT)
r' Útorch.nnr Z torch.hubr Ú__all__r0 ÚModuler r r% r% r% r& Ú<module> s ' | 2,152 | Python | .pyt | 33 | 63.30303 | 295 | 0.470505 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,951 | bilstm.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/trainmodel/__pycache__/bilstm.cpython-38.pyc | U
”jfcÁ ã @ s* d dl Z d dl mZ G dd„ dejƒZdS )é N)Únnc s. e Zd Zd ‡ fdd„ Zdd„ Zdd„ Z‡ ZS )
ÚBiLSTM_TextClassificationFNc sú t t| ƒ ¡ || _|| _|| _|| _|| _|| _|| _ | | _
|| _ |
d k rbt j
t |
¡¡| _nt
| j| j ¡| _t j| jd�| _| j
r´t | jd | jd ¡| _t j| j d�| _t j| j | j| j|dd�| _t j| jd�| _t | jd | j¡| _d S )N)Úpé é T)ÚdropoutÚ
bidirectional)Úsuperr Ú__init__Ú
input_sizeÚ hidden_sizeÚ output_sizeÚ
num_layersÚembedding_dropoutÚ lstm_dropoutÚattention_dropoutÚ attentionÚembedding_lengthr Ú EmbeddingÚfrom_pretrainedÚtorchÚtensorÚword_embeddingsÚDropoutÚembedding_dropout_layerÚLinearÚattention_layerÚattention_dropout_layerÚLSTMÚ
lstm_layerÚlstm_dropout_layerÚ output_layer) Úselfr r r
r r r r r r Zembedding_weights©Ú __class__© õK D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\trainmodel\bilstm.pyr
s, ÿz"BiLSTM_TextClassification.__init__c
C s¨ | d¡}t ||¡ d¡}g }t|ƒD ]N\}}t || d |… d¡} t | d¡||d |…d d …f ¡}
| |
¡ q(t t |d¡|fd¡} | | ¡} |
| ¡} | S )Nr r é ) Ú unsqueezer ÚbmmÚsqueezeÚ enumerateÚsoftmaxÚmatmulÚappendÚcatr r )
r" Z lstm_outputÚstateÚseq_lensÚhiddenZ attn_weightsZ new_hiddensÚiÚseq_lenZsoft_attn_weightsZ
new_hiddenZ
concat_hiddenZ
output_hiddenr% r% r& Úattention_forward" s
$
z+BiLSTM_TextClassification.attention_forwardc sê |\}}t |ƒ}| |¡}| |¡}t | jd || jf¡jdd�}t | jd || jf¡jdd�}| ddd¡}| |||f¡\‰ \}}ˆ ddd¡‰ tj
‡ fdd„t |ƒD ƒdd�} | | ¡} | j
rØ| ˆ | |¡‰ n| ‰ | ˆ ¡}
|
S ) Nr Úcuda)Údevicer' r c s, g | ]$\}}ˆ ||d dd…f d¡‘qS )r' Nr )r( )Ú.0r3 r4 ©Úoutputr% r& Ú
<listcomp>J s z5BiLSTM_TextClassification.forward.<locals>.<listcomp>)Údim)Úlenr r r Úzerosr r ÚtoÚpermuter r/ r+ r r r5 r! ) r" ÚxZ input_seqr1 Ú
batch_sizeZh_0Zc_0Zfinal_hidden_stateZfinal_cell_stater0 Úlogitsr% r9 r& Úforward8 s
z!BiLSTM_TextClassification.forward)FN)Ú__name__Ú
__module__Ú __qualname__r
r5 rD Ú
__classcell__r% r% r# r& r s
ÿr )r r ÚModuler r% r% r% r& Ú<module> s | 2,695 | Python | .pyt | 30 | 88.766667 | 247 | 0.46099 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,952 | mobilenet_v2.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/trainmodel/__pycache__/mobilenet_v2.cpython-38.pyc | U
”jfc ã @ sv d dl mZ d dlmZ ddgZddiZddd„ZG d d
„ d
ejƒZG d d „ d ej ƒZ
G d
d„ dej ƒZ ddd„Z dS )é )Únn)Úload_state_dict_from_urlÚ MobileNetV2Ú mobilenet_v2z=https://download.pytorch.org/models/mobilenet_v2-b0353104.pthNc C sB |dkr |}t |t| |d ƒ| | ƒ}|d| k r>||7 }|S )aD
This function is taken from the original tf repo.
It ensures that all layers have a channel number that is divisible by 8
It can be seen here:
https://github.com/tensorflow/models/blob/master/research/slim/nets/mobilenet/mobilenet.py
:param v:
:param divisor:
:param min_value:
:return:
Né gÍÌÌÌÌÌì?)ÚmaxÚint)ÚvÚdivisorÚ min_valueÚnew_v© r
õQ D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\trainmodel\mobilenet_v2.pyÚ_make_divisible
s r c s e Zd Zd‡ fdd„ Z‡ ZS )Ú
ConvBNReLUé é Nc sR |d d }|d krt j}tt| ƒ t j||||||dd�||ƒt jdd�¡ d S )Nr r F)ÚgroupsÚbiasT)Úinplace)r Ú BatchNorm2dÚsuperr Ú__init__ÚConv2dÚReLU6)ÚselfÚ in_planesÚ
out_planesÚ kernel_sizeÚstrider Ú
norm_layerÚpadding©Ú __class__r
r r " s
ýzConvBNReLU.__init__)r r r N)Ú__name__Ú
__module__Ú __qualname__r Ú
__classcell__r
r
r" r r ! s r c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )ÚInvertedResidualNc s¸ t t| ƒ ¡ || _|dks t‚|d kr.tj}tt|| ƒƒ}| jdkoN||k| _ g }|dkrt|
t ||d|d�¡ | t |||||d�tj
||ddddd�||ƒg¡ tj|Ž | _d S )N)r r r ©r r )r r r r F)r )r r( r r ÚAssertionErrorr r r ÚroundÚuse_res_connectÚappendr Úextendr Ú
SequentialÚconv)r ÚinpÚoupr Ú expand_ratior Ú
hidden_dimÚlayersr" r
r r . s ûzInvertedResidual.__init__c C s" | j r|| |¡ S | |¡S d S ©N)r, r0 ©r Úxr
r
r ÚforwardF s zInvertedResidual.forward)N)r$ r% r& r r9 r' r
r
r" r r( - s r( c s. e Zd Zd ‡ fdd„ Zdd„ Zd d
„ Z‡ ZS ) r éè ç ð?Né c s0 t t| ƒ ¡ |dkrt}|dkr(tj}d}d}|dkr‚ddddgddddgddd dgdd
d dgdd d dgdd
d dgddddgg}t|ƒdksžt|d ƒd kr¬td |¡ƒ‚t || |ƒ}t |t
d|ƒ |ƒ| _ t d |d|d�g} |D ]X\}
} } }
t | | |ƒ}t
| ƒD ]4}|dk�r|
nd}| |||||
|d�¡ |}�qqæ| t || j d|d�¡ tj| Ž | _t d¡| _t | j |¡| _| ¡ D ]¢}t|tjƒ�rÈtjj|jdd� |jdk �r(tj |j¡ n`t|tjtj fƒ�rútj |j¡ tj |j¡ n.t|tjƒ�rˆtj |jdd¡ tj |j¡ �qˆdS )aA
MobileNet V2 main class
Args:
num_classes (int): Number of classes
width_mult (float): Width multiplier - adjusts number of channels in each layer by this amount
inverted_residual_setting: Network structure
round_nearest (int): Round the number of channels in each layer to be a multiple of this number
Set to 1 to turn off rounding
block: Module specifying inverted residual building block for mobilenet
norm_layer: Module specifying the normalization layer to use
Né i r é é é r r é@ é é` é i@ r zIinverted_residual_setting should be non-empty or a 4-element list, got {}r; )r r )r3 r r) gš™™™™™É?Úfan_out)Úmodeg{®Gáz„?) r r r r( r r ÚlenÚ
ValueErrorÚformatr r Ú last_channelr Úranger- r/ ÚfeaturesÚDropoutÚdropoutÚLinearÚfcÚmodulesÚ
isinstancer ÚinitÚkaiming_normal_Úweightr Úzeros_Ú GroupNormÚones_Únormal_)r Ú num_classesÚ
width_multÚinverted_residual_settingÚ
round_nearestÚblockr Ú
input_channelrJ rL ÚtÚcÚnÚsÚoutput_channelÚir Úmr" r
r r N sX
ø ÿ
zMobileNetV2.__init__c C s> | |¡}tj |d¡ |jd d¡}| |¡}| |¡}|S )Nr r éÿÿÿÿ)rL r Ú
functionalÚadaptive_avg_pool2dÚreshapeÚshaperN rP r7 r
r
r Ú
_forward_implŸ s
zMobileNetV2._forward_implc C s
| |¡S r6 )rl r7 r
r
r r9 © s zMobileNetV2.forward)r: r; Nr< NN)r$ r% r& r rl r9 r' r
r
r" r r M s úQ
FTc K sd t f |Ž}| r`ttd |d�}i }| ¡ D ]*\}}d|krD|||< q*||| dd¡< q*| |¡ |S )aC
Constructs a MobileNetV2 architecture from
`"MobileNetV2: Inverted Residuals and Linear Bottlenecks" <https://arxiv.org/abs/1801.04381>`_.
Args:
pretrained (bool): If True, returns a model pre-trained on ImageNet
progress (bool): If True, displays a progress bar of the download to stderr
r )ÚprogressÚ
classifierz classifier.1rP )r r Ú
model_urlsÚitemsÚreplaceÚload_state_dict)Ú
pretrainedrm ÚkwargsÚmodelÚ
state_dictÚnew_dictÚkr r
r
r r s
ÿ
)N)FT)
Útorchr Z torch.hubr Ú__all__ro r r/ r ÚModuler( r r r
r
r
r Ú<module> s ÿ
` | 5,683 | Python | .pyt | 70 | 77.585714 | 401 | 0.472287 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,953 | models.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/trainmodel/__pycache__/models.cpython-39.pyc | a
°“bcZg ã @ sä d dl Z d dlmZ d dlm mZ d dlZd dlZd dlm Z d dl
m Z d dl Z
d dlmZmZ d dlmZmZmZmZ dZG dd„ dejƒZG d d
„ d
ejƒZG d d „ d ejƒZG d
d„ dejƒZG dd„ dejƒZ G dd„ dejƒZ G dd„ dejƒZ G dd„ dejƒZ G dd„ dejƒZ dd„ Z!G dd „ d ejƒZ"G d d „ d ejƒZ#G d d „ d ejƒZ$G d!d"„ d"ejƒZ%G d#d$„ d$ejƒZ&G d%d&„ d&ejƒZ'G d'd(„ d(ejƒZ(G d)d*„ d*ejƒZ)G d+d,„ d,ejƒZ*G d-d.„ d.ejƒZ+dS )/é N)Úpartial)Ú OrderedDict)ÚIMAGENET_DEFAULT_MEANÚIMAGENET_DEFAULT_STD)Ú
StdConv2dSameÚDropPathÚ to_2tupleÚ
trunc_normal_é c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )Ú
LocalModelc s t t| ƒ ¡ || _|| _d S ©N)Úsuperr Ú__init__ÚbaseÚ predictor)Úselfr r ©Ú __class__© úr/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/trainmodel/models.pyr s zLocalModel.__init__c C s | |¡}| |¡}|S r )r r ©r ÚxÚoutr r r Úforward s
zLocalModel.forward©Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s r c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )Ú
LocalModel_ptc s t t| ƒ ¡ || _|| _d S r )r
r r Ú generatorr )r r r r r r r # s zLocalModel_pt.__init__c C s | |¡}| |¡}|S r )r r r r r r r ) s
zLocalModel_pt.forwardr r r r r r " s r c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚLocalModel_repptc s$ t t| ƒ ¡ || _|| _|| _d S r )r
r! r r r r )r r r r r r r r 0 s zLocalModel_reppt.__init__c C s" | |¡}| |¡}| |¡}|S r )r r r r r r r r 7 s
zLocalModel_reppt.forwardr r r r r r! / s r! c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) Ú FedAvgCNNé é
é c
s� t ƒ ¡ t tj|dddddd�tjdd�tjdd �¡| _t tjdd
ddddd�tjdd�tjdd �¡| _t t |d ¡tjdd�¡| _
t d |¡| _ d S ) Né é r r# T)Ú kernel_sizeÚpaddingÚstrideÚbias©Úinplace)é r. ©r( é@ i ) r
r ÚnnÚ
SequentialÚConv2dÚReLUÚ MaxPool2dÚconv1Úconv2ÚLinearÚfc1Úfc)r Ú in_featuresÚ num_classesÚdimr r r r ` s8
û
ø
û
ø
şzFedAvgCNN.__init__c C s8 | |¡}| |¡}t |d¡}| |¡}| |¡}|S )Nr# )r6 r7 ÚtorchÚflattenr9 r: r r r r r | s
zFedAvgCNN.forward)r# r$ r% r r r r r r" _ s r" c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) Ú FedAvgMLPé r$ éÈ c s8 t ƒ ¡ t ||¡| _t ||¡| _tjdd�| _d S )NTr, )r
r r1 r8 r9 Úfc2r4 Úact)r r; r< Ú
hidden_dimr r r r ˆ s
zFedAvgMLP.__init__c C s: |j dkr | | d¡d¡}| | |¡¡}| |¡}|S )Né r éÿÿÿÿ)ÚndimÚviewÚsizerD r9 rC ©r r r r r r � s
zFedAvgMLP.forward)rA r$ rB r r r r r r@ ‡ s r@ c s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚNetc sj t t| ƒ ¡ t dtdd¡| _t tddd¡| _t d¡| _ t d¡| _
t dd¡| _ t dd¡| _
d S ) Nr# r. r& g Ğ?ç à?i H é€ r$ )r
rL r r1 r3 Ú
batch_sizer6 r7 ÚDropoutÚdropout1Údropout2r8 r9 r: )r r r r r ˜ s z Net.__init__c C s� | |¡}t ¡ |ƒ}t dd¡|ƒ}| |¡}| |¡}t ¡ |ƒ}t dd¡|ƒ}| |¡}t |d¡}| |¡}t ¡ |ƒ}|
|¡}t j |dd�}|S )Nr. r# ©r= )
r6 r1 r4 r5 rQ r7 rR r> r? r9 r: ÚFÚ log_softmax©r r Úoutputr r r r ¡ s
z Net.forwardr r r r r rL — s rL c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )Ú
Mclr_LogisticrA r$ c s t t| ƒ ¡ t ||¡| _d S r )r
rX r r1 r8 r: )r Ú input_dimr< r r r r ´ s zMclr_Logistic.__init__c C s( t |d¡}| |¡}tj|dd�}|S ©Nr# rS )r> r? r: rT rU rV r r r r ¸ s
zMclr_Logistic.forward)rA r$ r r r r r rX ³ s rX c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) ÚDNNrA éd r$ c s. t t| ƒ ¡ t ||¡| _t ||¡| _d S r )r
r[ r r1 r8 r9 r: )r rY Zmid_dimr< r r r r Á s z DNN.__init__c C s8 t |d¡}t | |¡¡}| |¡}tj|dd�}|S rZ )r> r? rT Úrelur9 r: rU rK r r r r Æ s
z DNN.forward)rA r\ r$ r r r r r r[ À s r[ c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS )ÚCifarNetr$ c sr t t| ƒ ¡ t ddd¡| _t dd¡| _t dtd¡| _ t
td d d¡| _ t
dd¡| _ t
d|¡| _
d S )Né é r' r. éx éT )r
r^ r r1 r3 r6 r5 ÚpoolrO r7 r8 r9 rC r: )r r< r r r r Ğ s zCifarNet.__init__c C s| | t | |¡¡¡}| t | |¡¡¡}| dtd d ¡}t | |¡¡}t | |¡¡}| |¡}tj
|dd�}|S )NrG r' r# rS ) rc rT r] r6 r7 rI rO r9 rC r: rU rK r r r r Ù s
zCifarNet.forward)r$ r r r r r r^ Ï s r^ c C s | j j}| d¡dks$| d¡dkrBtj | j¡ tj | j¡ nZ| d¡dkrrtj | jdd¡ tj | j¡ n*| d¡dkrœtj
| j¡ tj | j¡ d S )Nr3 rG ÚConvTranspose2dZ BatchNormg ğ?g{®Gáz”?r8 ) r r Úfindr1 ÚinitÚkaiming_uniform_ÚweightÚzeros_r+ Únormal_Úxavier_normal_)ÚmÚ classnamer r r Ú init_weights s rn c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) Ú PadPrompterr# é Nc s´ t t| ƒ ¡ |}|}|| _|| _||d | _t t d| j||g¡¡| _
t t d| j||g¡¡| _ t t d| j||d |g¡¡| _ t t d| j||d |g¡¡| _
d S )Nr. r# )r
ro r ÚargsÚinchanelÚ base_sizer1 Ú Parameterr> ÚrandnÚpad_upÚpad_downÚpad_leftÚ pad_right)r rr Úpad_sizeÚ
image_sizerq r r r r s $zPadPrompter.__init__c C sn t d| j| j| j¡ | jj¡}t j| j|| j gdd�}t j| j
|| j gdd�}t | d¡|g ¡}|| S )Nr# r_ rS r. r )
r> Úzerosrr rs Útorq ÚdeviceÚcatrx ry rv rw rJ )r r r Úpromptr r r r ) s
zPadPrompter.forward)r# r# rp Nr r r r r ro s ro c s& e Zd Zd ‡ fdd„ Zdd„ Z‡ ZS )
ÚLeNeté é r$ Nc
sÌ t t| ƒ ¡ t tjdddd�t d¡t ¡ tjdddd�tjdd�t d¡t ¡ ¡| _ tj
|d d
�| _ tj dd�| _
t ||¡| _| j t¡ t ||¡| _|d kr¼tjj| jd d
�| _| j t¡ d S )Nr# é r' r/ r. é2 rM ©ÚpT)ÚaffineÚwnrh )Úname)r
r� r r1 r2 r3 r5 r4 Ú Dropout2dÚ conv_paramsÚ BatchNorm1dÚbnrP Údropoutr8 Ú
bottleneckÚapplyrn r: ÚutilsÚ weight_norm)r Ú feature_dimZbottleneck_dimr< Ziswnr r r r 4 s$
ù zLeNet.__init__c C sV | |¡}| | d¡d¡}| |¡}| |¡}| |¡}| |¡}tj|dd�}|S ©Nr rG r# rS ) rŒ rI rJ r� r� r� r: rT rU rK r r r r I s
z
LeNet.forward)r‚ rƒ r$ Nr r r r r r� 3 s r� c s& e Zd Zd ‡ fdd„ Zd d
„ Z‡ ZS ) ÚLSTMNetr. Fçš™™™™™É?r éK� r$ c s` t ƒ ¡ t |¡| _t |||¡| _tj|||||dd�| _|rJ|d n|}t ||¡| _
d S )NT)Ú
input_sizeÚ hidden_sizeÚ
num_layersÚ
bidirectionalr� Ú batch_firstr. ) r
r r1 rP r� Ú EmbeddingÚ embeddingÚLSTMÚlstmr8 r: ) r rE r› rœ r� Ú padding_idxÚ
vocab_sizer< Údimsr r r r s s
ûzLSTMNet.__init__c C s’ |\}}| |¡}tjjj||ddd�}| |¡\}\}}tjjj|dd�\} }
t | d d …dd d …f ¡} | | ¡} |
| ¡} t j | dd�} | S )NTF)r� Úenforce_sorted)r� rG r# rS )
rŸ r1 r’ ÚrnnÚpack_padded_sequencer¡ Úpad_packed_sequencer> Úrelu_r� r: rT rU ) r r ÚtextÚ text_lengthsZembeddedZpacked_embeddedZ
packed_outputÚhiddenÚcellr Z out_lengthsr r r r ‚ s
zLSTMNet.forward)r. Fr— r r˜ r$ r r r r r r– r s ÿr– c s& e Zd Zd‡ fdd„ Zdd„ Z‡ ZS ) ÚfastTextr r˜ r$ c s> t t| ƒ ¡ t |||¡| _t ||¡| _t ||¡| _d S r ) r
r® r r1 r� rŸ r8 r9 r: )r rE r¢ r£ r< r r r r ˜ s zfastText.__init__c C s> |\}}| |¡}| | d¡¡}| |¡}tj|dd�}|S rZ )rŸ r9 Úmeanr: rT rU )r r rª r« Ú
embedded_sentÚhÚzr r r r r ¤ s
zfastText.forward)r r˜ r$ r r r r r r® — s r® c s8 e Zd Zdg d¢dddddf‡ fdd „ Zd
d „ Z‡ ZS ) ÚTextCNNr\ )r_ rF r' rB gš™™™™™é?r r˜ r$ c sæ t t| ƒ ¡ t |||¡| _t tj|||d d�t ¡ t ||d d ¡¡| _
t tj|||d d�t ¡ t ||d d ¡¡| _ t tj|||d d�t ¡ t ||d d ¡¡| _ t
|¡| _t |t|ƒ |¡| _d S )Nr )Ú in_channelsÚ out_channelsr( r# r. )r
r³ r r1 r� rŸ r2 ÚConv1dr4 Ú MaxPool1dr6 r7 Úconv3rP r� r8 Úlenr: ) r rE Ú num_channelsr( Úmax_lenr� r¢ r£ r< r r r r ± s& ııı zTextCNN.__init__c C s„ |\}}| |¡ ddd¡}| |¡ d¡}| |¡ d¡}| |¡ d¡}t |||fd¡}| |¡} | | ¡}
t
j |
dd�}
|
S )Nr r. r# rS ) rŸ Úpermuter6 Úsqueezer7 r¸ r> r r� r: rT rU ) r r rª r« r° Z conv_out1Z conv_out2Z conv_out3Zall_outZfinal_feature_mapr r r r r Ï s
zTextCNN.forwardr r r r r r³ ° s ÿ r³ c s* e Zd ZdZd
‡ fdd„ Zdd „ Z‡ ZS ) Ú
PatchEmbedz{
Image to Patch Embedding
CNN_proj + Rearrange: [B, C, W, H] -> [B, D, Pn_W, Pn_H] -> [B, D, Pn] -> [B, Pn, D]
éà r
r_ é c sd t ƒ ¡ t|ƒ}t|ƒ}|d |d |d |d }|| _|| _|| _tj||||d�| _d S )Nr# r )r( r* ) r
r r Úimg_sizeÚ
patch_sizeÚ num_patchesr1 r3 Úproj)r rÁ r Úin_chansÚ embed_dimrà r r r r æ s
zPatchEmbed.__init__c
C st |j \}}}}|| jd kr*|| jd ksXJ d|› d|› d| jd › d| jd › d� ƒ‚| |¡ d¡ dd¡}|S )Nr r# zInput image size (Ú*z) doesn't match model (z).r. )ÚshaperÁ rÄ r? Ú transpose)r r ÚBÚCÚHÚWr r r r ñ s (ÿzPatchEmbed.forward)r¿ r
r_ rÀ ©r r r Ú__doc__r r r r r r r r¾ à s r¾ c s4 e Zd ZdZddejdf‡ fdd„ Zdd„ Z‡ ZS )ÚFFNz�
FFN (from timm)
:param in_features:
:param hidden_features:
:param out_features:
:param act_layer:
:param drop:
Nç c sN t ƒ ¡ |p|}|p|}t ||¡| _|ƒ | _t ||¡| _t |¡| _d S r ) r
r r1 r8 r9 rD rC rP Údrop)r r; Úhidden_featuresÚ out_featuresÚ act_layerrÒ r r r r s
z FFN.__init__c C s6 | |¡}| |¡}| |¡}| |¡}| |¡}|S r )r9 rD rÒ rC rK r r r r s
z FFN.forward) r r r rÏ r1 ÚGELUr r r r r r r rĞ ş s rĞ c s* e Zd ZdZd
‡ fdd„ Zdd „ Z‡ ZS ) Ú Attentiona�
qkv Transform + MSA(MHSA) (from timm)
# input x.shape = batch, patch_number, patch_dim
# output x.shape = batch, patch_number, patch_dim
:param dim: dim=CNN feature dim, because the patch size is 1x1
:param num_heads:
:param qkv_bias:
:param qk_scale: by default head_dim ** -0.5 (squre root)
:param attn_drop: dropout rate after MHSA
:param proj_drop:
é FNrÑ c sf t ƒ ¡ || _|| }|p"|d | _tj||d |d�| _t |¡| _t ||¡| _ t |¡| _
d S )Ng à¿r_ )r+ ) r
r Ú num_headsÚscaler1 r8 ÚqkvrP Ú attn_droprÄ Ú proj_drop)r r= rÙ Úqkv_biasÚqk_scalerÜ rİ Úhead_dimr r r r - s
zAttention.__init__c
C s´ |j \}}}| |¡ ||d| j|| j ¡ ddddd¡}|d |d |d }}}|| dd¡ | j } | jdd�} | | ¡} | | dd¡ |||¡}| |¡}|
|¡}|S ) Nr_ r. r r# rF éşÿÿÿrG rS ) rÈ rÛ ÚreshaperÙ r¼ rÉ rÚ ÚsoftmaxrÜ rÄ rİ )
r r ÚbatchZ patch_numberZ patch_dimrÛ ÚqÚkÚvÚattnr r r r : s ÿ
ÿ
zAttention.forward)rØ FNrÑ rÑ rÎ r r r r r× s
r× c s: e Zd Zddddddejejf‡ fdd„ Zdd„ Z‡ ZS ) ÚBlockç @FNrÑ c sp t ƒ ¡ |
|ƒ| _t||||||d�| _|dkr:t|ƒnt ¡ | _|
|ƒ| _ t
|| ƒ} t || | |d�| _ dS )aê
# input x.shape = batch, patch_number, patch_dim
# output x.shape = batch, patch_number, patch_dim
:param dim: dim
:param num_heads:
:param mlp_ratio: FFN
:param qkv_bias:
:param qk_scale: by default head_dim ** -0.5 (squre root)
:param drop:
:param attn_drop: dropout rate after Attention
:param drop_path: dropout rate after sd
:param act_layer: FFN act
:param norm_layer: Pre Norm
)rÙ rŞ rß rÜ rİ rÑ )r; rÓ rÕ rÒ N)
r
r Únorm1r× rè r r1 ÚIdentityÚ drop_pathÚnorm2ÚintrĞ Úmlp) r r= rÙ Ú mlp_ratiorŞ rß rÒ rÜ rí rÕ Ú
norm_layerZmlp_hidden_dimr r r r W s
ÿ
zBlock.__init__c C s8 || | | |¡¡¡ }|| | | |¡¡¡ }|S r )rí rè rë rğ rî rK r r r r v s z
Block.forward) r r r r1 rÖ Ú LayerNormr r r r r r r ré U s
ÿ ré c sR e Zd ZdZddddddddd d
d d d ed
d
f‡ fd d
„ Zdd„ Zdd„ Z‡ ZS )ÚVisionTransformerz¬
Vision Transformer
A PyTorch impl of : `An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale`
- https://arxiv.org/abs/2010.11929
r& r
r_ r$ rÀ é rê TNrÑ c
sX t ƒ ¡ || _ˆ | _| _d| _ˆp2ttjdd�‰ˆ p<tj ‰ ||||ˆd�| _
| j
j }t t
ddˆ¡¡| _t t
d|| j ˆ¡¡| _tjˆd�| _dd„ t
d|
|¡D ƒ‰tj‡ ‡‡‡‡‡‡‡‡f d d„t|ƒD ƒ� | _ˆˆƒ| _|
�r |
| _t td
t ˆ|
¡fd t ¡ fgƒ¡| _n
t ¡ | _| jdk�rDt | j| j¡nt ¡ | _ d | _ d S )
aš
Args:
img_size (int, tuple): input image size
patch_size (int, tuple): patch size
in_chans (int): number of input channels
num_classes (int): number of classes for classification head
embed_dim (int): embedding dimension
depth (int): depth of transformer
num_heads (int): number of attention heads
mlp_ratio (int): ratio of mlp hidden dim to embedding dim
qkv_bias (bool): enable bias for qkv if True
representation_size (Optional[int]): enable and set representation layer (pre-logits) to this value if set
drop_rate (float): dropout rate
attn_drop_rate (float): attention dropout rate
drop_path_rate (float): stochastic depth rate
embed_layer (nn.Module): patch embedding layer
norm_layer: (nn.Module): normalization layer
r# g�íµ ÷Æ°>)Úeps)rÁ r rÅ rÆ r† c S s g | ] }| ¡ ‘qS r )Úitem)Ú.0r r r r Ú
<listcomp>® ó z.VisionTransformer.__init__.<locals>.<listcomp>r c
s* g | ]"}t ˆˆˆˆˆˆˆ| ˆˆ d � ‘qS )) r= rÙ rñ rŞ rÒ rÜ rí rò rÕ )ré )rø Úi© rÕ Úattn_drop_rateZdprÚ drop_raterÆ rñ rò rÙ rŞ r r rù ± s ş ÿr: rD N) r
r r< Ú num_featuresrÆ Z
num_tokensr r1 ró rÖ Ú patch_embedrà rt r> r| Ú cls_tokenÚ pos_embedrP Úpos_dropÚlinspacer2 ÚrangeÚblocksÚnormr r8 ÚTanhÚ
pre_logitsrì ÚheadZ head_dist)r rÁ r rÅ r< rÆ ÚdepthrÙ rñ rŞ Úrepresentation_sizerş rı Zdrop_path_rateZ embed_layerrò rÕ rà r rü r r † s6
ÿ ı
ş
&zVisionTransformer.__init__c C sZ | |¡}| j |jd dd¡}tj||fdd�}| || j ¡}| |¡}| |¡}|S r• )
r r ÚexpandrÈ r> r r r r r )r r r r r r Úforward_featuresÇ s
z"VisionTransformer.forward_featuresc C s. | |¡}| |d d …df ¡}| |¡}|S )Nr )r r r
rK r r r r Ò s
zVisionTransformer.forward) r r r rÏ r¾ r r r r r r r r rô s şA rô ),r> Útorch.nnr1 Útorch.nn.functionalÚ
functionalrT ÚmathÚloggingÚ functoolsr Ú collectionsr ÚnumpyÚnpZ timm.datar r Ztimm.models.layersr r r r rO ÚModuler r r! r" r@ rL rX r[ r^ rn ro r� r– r® r³ r¾ rĞ r× ré rô r r r r Ú<module> s<
0(
@
?%0 "5* | 19,577 | Python | .pyt | 207 | 91.603865 | 633 | 0.364153 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,954 | serverrep.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverrep.cpython-37.pyc | B
·:cc ã @ sH d dl mZ d dlmZ d dlmZ d dlZd dlZG dd„ deƒZdS )é )Ú clientRep)ÚServer)ÚThreadNc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )ÚFedRepc sL t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.) ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudget)ÚselfÚargsÚtimes)Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/servers/serverrep.pyr s zFedRep.__init__c C s
x®t | jd ƒD ]œ}t ¡ }| ¡ | _| ¡ || j dkr\td|› d�ƒ tdƒ | ¡ x| jD ] }| ¡ qdW |
¡ | ¡ | j
t ¡ | ¡ tddd| j d ƒ qW td ƒ tt| jƒƒ td
ƒ tt| j dd … ƒt| j dd … ƒ ƒ | ¡ | ¡ d S ) Né r z
-------------Round number: z
-------------z
Evaluate global modelz-------------------------z time costéÿÿÿÿz
Best global accuracy.z
Average time cost per round.)ÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersr
ÚappendÚmaxÚ rs_test_accÚsumÚlenÚ save_resultsÚsave_global_model)r ÚiÚs_tÚclientr r r r s(
(z FedRep.trainc C sŒ t | jƒdkst‚d}x| jD ]}||j7 }q W g | _g | _g | _xD| jD ]:}| j |j| ¡ | j |j¡ | j t
|j j ¡¡ qJW d S )Nr )
r% r ÚAssertionErrorÚ
train_samplesÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr! ÚidÚcopyÚdeepcopyÚmodelÚbase)r Zactive_train_samplesr* r r r r : s zFedRep.receive_models)Ú__name__Ú
__module__Ú __qualname__r r r Ú
__classcell__r r )r r r s #r ) Z system.flcore.clients.clientrepr Ú system.flcore.servers.serverbaser Ú threadingr r r1 r r r r r Ú<module> s
| 2,146 | Python | .pyt | 16 | 132.6875 | 338 | 0.47771 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,955 | servermtl.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/servermtl.cpython-39.pyc | a
f¾`c ã @ s@ d dl Z d dlmZ d dlmZ d dlmZ G dd„ deƒZdS )é N)Ú clientMTL)ÚServer)ÚThreadc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) ÚFedMTLc sÈ t ƒ ||¡ t| | j¡ƒ| _tj| j| jf|j d�| _
|j | _ t | j| jf¡}t | jdf¡}|d| j | |j
¡ d }| |j ¡| _| ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )N©Údeviceé é z
Join clients / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__ÚlenÚflattenÚ global_modelÚdimÚtorchÚzerosÚ join_clientsr ÚW_globÚonesÚmmÚTÚtoÚomegaÚset_slow_clientsÚ set_clientsr ÚprintÚ num_clients)ÚselfÚargsÚtimesÚIÚir ©Ú __class__© úr/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/servermtl.pyr s zFedMTL.__init__c C s¬ t | jd ƒD ]r}| ¡ | _| ¡ || j dkrRtd|› d�ƒ tdƒ | ¡ t| jƒD ]"\}}| | j
| j |¡ | ¡ q\qtdƒ tt
| jƒƒ | ¡ | ¡ d S )Nr r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚaggregate_parametersÚeval_gapr ÚevaluateÚ enumerateZreceive_valuesr r ÚtrainÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r r! ÚidxÚclientr$ r$ r% r. s
z FedMTL.trainc s, | ¡ ‰ ˆ ¡ }‡ fdd„|D ƒ}t |¡S )Nc s g | ]}ˆ | ¡ ‘qS r$ )r
)Ú.0Úkey©Ú
state_dictr$ r% Ú
<listcomp>< ó z"FedMTL.flatten.<locals>.<listcomp>)r8 Úkeysr Úcat)r Úmodelr; ÚWr$ r7 r% r
9 s zFedMTL.flattenc C sL t j| j| jf| jd�| _t| jƒD ]"\}}| |j ¡| jd d …|f< q$d S )Nr )
r r r r r r r- r) r
r= )r r3 r4 r$ r$ r% r* ? s zFedMTL.aggregate_parameters)Ú__name__Ú
__module__Ú __qualname__r r. r
r* Ú
__classcell__r$ r$ r" r% r s r )r Zflcore.clients.clientmtlr Úflcore.servers.serverbaser Ú threadingr r r$ r$ r$ r% Ú<module> s | 2,406 | Python | .pyt | 13 | 183.846154 | 602 | 0.442356 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,956 | serverdyn.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverdyn.cpython-38.pyc | U
Mrgc ã @ sP d dl Z d dlZd dlmZ d dlmZ d dlmZ d dlZG dd„ deƒZ dS )é N)Ú clientDyn)ÚServer)ÚThreadc s< e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Z‡ ZS ) ÚFedDync s€ t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _|j | _ t
|j ¡| _
| j
¡ D ]}t |j¡|_qhd S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudgetÚalphaÚcopyÚdeepcopyÚmodelÚ server_stateÚ
parametersÚtorchÚ
zeros_likeÚdata)ÚselfÚargsÚtimesÚparam©Ú __class__© õD D:\京东\promot\cifar\cifar\tiny\system\flcore\servers\serverdyn.pyr
s zFedDyn.__init__c C sh g }d| _ d}t| jd ƒD ]Ü}t ¡ }| ¡ | _| ¡ || j dkrhtd|› d�ƒ tdƒ | ¡ | jD ] }|
¡ qn|| j dkržtdƒ | j |d� | ¡ | ¡ |
¡ | j t ¡ | ¡ td | jd
ƒ | j| jg| jd �| _ |d7 }q td ƒ tt| jƒƒ td
ƒ tt|ƒƒ tdƒ tt| jdd … ƒt| jdd … ƒ ƒ | ¡ | ¡ d S )NFr é z
-------------Round number: z
-------------z
Evaluate global modelz
Evaluate local model)Úaccz2--------------------------------------------------éÿÿÿÿ)Úacc_lssÚtop_cntz
Best global accuracy.z
Best local accuracy.z
Averaged time per iteration.)ÚdoneÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚupdate_server_stateÚaggregate_parametersr
ÚappendÚ
check_doneÚ rs_test_accr# ÚmaxÚsumÚlenÚ save_resultsÚsave_global_model)r Z local_accÚiÚs_tÚclientr r r r- s>
(z FedDyn.trainc C s< t | j ¡ | ¡ ƒD ]"\}}| j|j ¡ | j 7 _qd S )N)ÚzipÚ global_modelr r ÚcloneÚ join_clients)r Ú client_modelÚ server_paramÚ client_paramr r r Úadd_parametersO s zFedDyn.add_parametersc C s” t | jƒdkst‚t | jd ¡| _| j ¡ D ]}t |j ¡|_ q.| jD ]}|
|¡ qHt | j ¡ | j ¡ ƒD ] \}}| j d| j
| 8 _ qnd S )Nr r )r6 Úuploaded_modelsÚAssertionErrorr r r= r r r r rC r< r r )r r r@ rA Ú state_paramr r r r0 S s
zFedDyn.aggregate_parametersc C s¾ t | jƒdkst‚t | jd ¡}| ¡ D ]}t |j¡|_q*| jD ]B}t | j
¡ | ¡ | ¡ ƒD ]"\}}}| j|| | j 7 _qbqDt | j ¡ | ¡ ƒD ] \}}| j| j
| 8 _qœd S )Nr )r6 rD rE r r r r r r r< r= r r r )r Z model_deltar r@ rA rB Z delta_paramrF r r r r/ ` s
$ zFedDyn.update_server_state) Ú__name__Ú
__module__Ú __qualname__r r- rC r0 r/ Ú
__classcell__r r r r r s
1
r )
r r Zflcore.clients.clientdynr Úflcore.servers.serverbaser Ú threadingr r' r r r r r Ú<module> s | 3,276 | Python | .pyt | 30 | 107.9 | 399 | 0.434247 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,957 | serverperavg.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverperavg.cpython-38.pyc | U
”jfc‚ ã @ sH d dl Z d dlZd dlmZ d dlmZ d dlmZ G dd„ deƒZdS )é N)Ú clientPerAvg)ÚServer)ÚThreadc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )ÚPerAvgc sF t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© õN D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\servers\serverperavg.pyr s
zPerAvg.__init__c C sª t | jd ƒD ]p}| ¡ | _| ¡ || j dkrRtd|› d�ƒ tdƒ | ¡ | jD ]}| ¡ | ¡ qX| ¡ |
¡ qtdƒ tt | j ƒƒ |
¡ | ¡ d S )Né r z
-------------Round number: z
-------------z+
Evaluate global model with one step updatez
Best global accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
Úevaluate_one_stepÚtrainÚreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r
ÚiÚclientr r r r s
z PerAvg.trainc C s’ g }| j D ] }| t |j¡¡ | ¡ q
| ¡ }t| j ƒD ]\}}| || |j¡ q<t |d ƒd t |d ƒ }| j
|¡ t d |¡ƒ d S )Né g ğ?r z Average Test Accurancy: {:.4f})
ÚclientsÚappendÚcopyÚdeepcopyÚmodelZtrain_one_stepÚ test_metricsÚ enumerateÚ clone_modelÚsumr r
Úformat)r
Z models_tempÚcÚstatsr# Útest_accr r r r 4 s
zPerAvg.evaluate_one_step)Ú__name__Ú
__module__Ú __qualname__r r r Ú
__classcell__r r r r r s
!r ) r( ÚtorchZflcore.clients.clientperavgr Úflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s
| 2,024 | Python | .pyt | 22 | 90.727273 | 347 | 0.482776 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,958 | serverpFedMe.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverpFedMe.cpython-39.pyc | a
f¾`cE ã @ sP d dl Z d dlZd dlZd dlmZ d dlmZ d dlmZ G dd„ deƒZ dS )é N)Ú clientpFedMe)ÚServer)ÚThreadc sL e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Zd d „ Zd
d„ Z ‡ Z
S )ÚpFedMec s` t ƒ ||¡ | ¡ | |t¡ |j| _g | _g | _g | _t d| j
› d| j › �ƒ t dƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.) ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚbetaÚrs_train_acc_perÚrs_train_loss_perÚrs_test_acc_perÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© úu/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/serverpFedMe.pyr
s zpFedMe.__init__c C sÀ t | jd ƒD ]†}| ¡ | _| ¡ | jD ] }| ¡ q*|| j dkrftd|› d�ƒ tdƒ | ¡ t
t | j
¡ ƒ¡| _| ¡ | ¡ | ¡ qtdƒ tt| jƒƒ | ¡ | ¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate personalized modelz
Best personalized results.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚtrainÚeval_gapr Úevaluate_personalized_modelÚcopyÚdeepcopyÚlistÚ global_modelÚ
parametersÚprevious_global_modelÚreceive_modelsÚaggregate_parametersÚbeta_aggregate_parametersÚmaxr
Ú save_resultsÚsave_global_model)r ÚiÚclientr r r r s"
z pFedMe.trainc C s> t | j| j ¡ ƒD ]&\}}d| j |j | j|j |_qd S )Nr )Úzipr& r$ r% r
Údata)r Z pre_paramÚparamr r r r) D s z pFedMe.beta_aggregate_parametersc C sR g }g }| j D ](}| ¡ \}}| |d ¡ | |¡ qdd„ | j D ƒ}|||fS )Nç ð?c S s g | ]
}|j ‘qS r ©Úid©Ú.0Úcr r r Ú
<listcomp>P ó z4pFedMe.test_metrics_personalized.<locals>.<listcomp>)ÚclientsÚtest_metrics_personalizedÚappend)r Ú num_samplesÚ tot_correctr7 ÚctÚnsÚidsr r r r; I s
z pFedMe.test_metrics_personalizedc C sh g }g }g }| j D ]8}| ¡ \}}}| |d ¡ | |¡ | |d ¡ qdd„ | j D ƒ}||||fS )Nr2 c S s g | ]
}|j ‘qS r r3 r5 r r r r8 ^ r9 z5pFedMe.train_metrics_personalized.<locals>.<listcomp>)r: Útrain_metrics_personalizedr< ) r r= r> Úlossesr7 r? Úclr@ rA r r r rB T s
z!pFedMe.train_metrics_personalizedc C sB | ¡ }t|d ƒd t|d ƒ }| j |¡ td |¡ƒ d S )Né r2 r z+Average Personalized Test Accurancy: {:.4f})r; Úsumr
r< r Úformat)r ÚstatsÚtest_accr r r r b s z"pFedMe.evaluate_personalized_modelc C sº | j d | j }d}tj |¡s*t |¡ t| jƒr¶|d | j d t | j
ƒ }t |d
|¡ d¡�@}|jd| jd� |jd| jd� |jd| jd� W d ƒ n1 s¬0 Y d S ) NÚ_z ../results/z{}.h5ÚwÚ rs_test_acc)r0 Z rs_train_accÚ
rs_train_loss)ÚdatasetÚ algorithmÚosÚpathÚexistsÚmakedirsÚlenr
ÚgoalÚstrr Úh5pyÚFilerG Úcreate_datasetr r )r ÚalgoÚ result_pathZalgo2Úhfr r r r+ q s
zpFedMe.save_results) Ú__name__Ú
__module__Ú __qualname__r r r) r; rB r r+ Ú
__classcell__r r r r r s + r )
rP r! rW Zflcore.clients.clientpFedMer Zflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 3,828 | Python | .pyt | 28 | 135.428571 | 434 | 0.464596 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,959 | serverphp.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverphp.cpython-39.pyc | a
f¾`c” ã @ sH d dl mZ d dlmZ d dlmZ d dlZd dlZG dd„ deƒZdS )é )Ú clientPHP)ÚServer)ÚThreadNc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )ÚFedPHPc sL t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.) ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudget)ÚselfÚargsÚtimes©Ú __class__© úr/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/serverphp.pyr s zFedPHP.__init__c C s¤ t | jd ƒD ]j}| ¡ | _| |¡ || j dkrTtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ qZ| ¡ |
¡ qtdƒ tt | j ƒƒ |
¡ | ¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r ÚiÚclientr r r r s
z FedPHP.trainc C s0 t | jƒdksJ ‚| jD ]}| | j|¡ qd S )Nr )Úlenr Úset_parametersÚ global_model)r ÚRr% r r r r 5 s
zFedPHP.send_models)Ú__name__Ú
__module__Ú __qualname__r r r Ú
__classcell__r r r r r s r ) Zflcore.clients.clientphpr Úflcore.servers.serverbaser Ú threadingr ÚtimeÚcopyr r r r r Ú<module> s
| 1,758 | Python | .pyt | 17 | 102.176471 | 371 | 0.487371 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,960 | serveravg.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serveravg.cpython-37.pyc | B
¿:ccç ã @ sH d dl Z d dlZd dlmZ d dlmZ d dlmZ G dd„ deƒZdS )é N)Ú clientAVG)ÚServer)ÚThreadc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚFedAvgc sL t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.) ÚsuperÚ__init__Zset_slow_clientsZ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudget)ÚselfÚargsÚtimes)Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/servers/serveravg.pyr s zFedAvg.__init__c C s
x®t | jd ƒD ]œ}t ¡ }| ¡ | _| ¡ || j dkr\td|› d�ƒ tdƒ | ¡ x| jD ] }| ¡ qdW |
¡ | ¡ | j
t ¡ | ¡ tddd| j d ƒ qW td ƒ tt| jƒƒ td
ƒ tt| j dd … ƒt| j dd … ƒ ƒ | ¡ | ¡ d S ) Né r z
-------------Round number: z
-------------z
Evaluate global modelz-------------------------z time costéÿÿÿÿz
Best global accuracy.z
Average time cost per round.)ÚrangeÚ
global_roundsÚtimeZselect_clientsZselected_clientsZ send_modelsÚeval_gapr ZevaluateÚtrainZreceive_modelsZaggregate_parametersr ÚappendÚmaxZ rs_test_accÚsumÚlenZ save_resultsZsave_global_model)r ÚiZs_tÚclientr r r r s(
(z FedAvg.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r )r r r s r ) r ÚtorchZ system.flcore.clients.clientavgr Z system.flcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s
| 1,721 | Python | .pyt | 14 | 121.571429 | 330 | 0.485948 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,961 | servermtlpt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/servermtlpt.cpython-38.pyc | U
Õ şc² ã @ sh d dl Z d dlmZ d dlmZ d dlmZ d dlZd dlZd dl Z d dl Z d dl
Z G dd„ deƒZ dS )é N)Ú clientMTLPT)ÚServer)ÚThreadc s^ e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Zdd d
„Zdd„ Z dd„ Z
dd„ Z ‡ Z S )ÚFedMTLPTc sÚ t ƒ ||¡ || _t| | j¡ƒ| _tj| j| j f|j
d�| _ |j
| _
t | j | j f¡}t | j df¡}|d| j |
|j¡ d }| |j
¡| _g | _g | _| ¡ | |t¡ td| j › d| j› �ƒ tdƒ d S )N©Údeviceé é z
Join clients / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__ÚargsÚlenÚflattenÚ global_modelÚdimÚtorchÚzerosÚ join_clientsr ÚW_globÚonesÚmmÚTÚtoÚomegaÚclients_divergeÚdiff_proÚset_slow_clientsÚ set_clientsr ÚprintÚ num_clients)Úselfr ÚtimesÚIÚir ©Ú __class__© õc D:\京东\promot\第二次投稿\å®�验\æœ�务器\native - pro\system\flcore\servers\servermtlpt.pyr s zFedMTLPT.__init__c C s¢ g }t | jd ƒD �]F}| ¡ | _| ¡ || j dkrXtd|› d�ƒ tdƒ | ¡ d}t| jƒD ].\}}| | j
| j |¡ | ¡ }||
¡ }qftd |¡ƒ | j |¡ d}t| jd jj ¡ | jd jj ¡ ƒD ]:\}} || }
t |
dk|
t |
¡|
¡}
|t |
¡ }qÚtd |
¡ ¡ƒ | j |
¡ ¡ || j dkrtdƒ | j|d � qtd
ƒ tt| j ƒƒ td ƒ tt|ƒƒ | ¡ | ¡ | ¡ d S ) Nr r z
-------------Round number: z
-------------z
Evaluate global modelz"Averaged prompr difference: {:.4f}z"0 and 1 clients difference: {:.4f}z
Evaluate local model)Úaccz
Best global accuracy.z
Best local accuracy.) ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚaggregate_parametersÚeval_gapr ÚevaluateÚ enumerateÚreceive_valuesr r ÚtrainÚitemÚformatr ÚappendÚzipÚclientsÚmodelÚ generatorÚ
parametersr ÚwhereÚ
zeros_likeÚsumr ÚmaxÚ rs_test_accÚ save_resultsÚsave_global_modelÚsave_client_model) r Ú local_accr# Ú
temp_diff_proÚidxÚclientÚtemp_diff_pro_clientÚdiverge_clentsÚ new_paramÚ old_paramr r& r& r' r2 sD
ÿ zFedMTLPT.trainc C s‚ t | jƒdkst‚d}| jD ]}||j7 }q g | _g | _g | _| jD ]8}| j |j| ¡ | j |j¡ | j t
|j ¡¡ qDd S )Nr ) r
r, ÚAssertionErrorÚ
train_samplesÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr5 ÚidÚcopyÚdeepcopyr8 )r Úactive_train_samplesrF r& r& r' Úreceive_modelsM s
zFedMTLPT.receive_modelsc C s t j d| jd| jjd | jj d | jj d | jj d | jj d | jj
¡}t j |¡sjt |¡ t
| jƒD ]†\}}t j || jd t|ƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d ¡}t |j|¡ qtd S )NÚmodelsrF Ú*Ú_clientÚ_z.pt)ÚosÚpathÚjoinÚdatasetr Úarv1Úarv2Úarv3Úarv4Úarv5Úarv6ÚexistsÚmakedirsr0 r7 Ú algorithmÚstrÚ
num_promptÚ
join_ratior Ú plocal_stepsr* r Úsaver8 )r Ú
model_pathÚc_idxÚcÚmodel_path_saver& r& r' rB [ s T
pzFedMTLPT.save_client_modelc C s€ | j d | j }d| jj d | jj d | jj d | jj d | jj d | jj d }t j
|¡srt |¡ t
| jƒ�r||d | j d t| jƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ }|d |¡ }td| ƒ t |d¡�f}|jd| jd � |jd
| j d � |jd | j d � |jd | j d � |jd
| j d � |jd| j d � W 5 Q R X d S )NrX z ../results/rV ú/z{}.h5z File path: Úwr? )ÚdataÚrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr r )!r\ re r r] r^ r_ r` ra rb rY rZ rc rd r
r? Úgoalrf r! rg rh r ri r* r4 r Úh5pyÚFileÚcreate_datasetrr rs rt r r )r ÚalgoÚ result_pathÚ file_pathÚhfr& r& r' r@ c s L
l zFedMTLPT.save_resultsNc C s| | ¡ }| ¡ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }dd„ t|d |d ƒD ƒ} dd„ t|d |d ƒD ƒ}
|d krÎ| j |¡ n
| |¡ | j |¡ | j t | ¡¡ |d k�r| j
|¡ n
| |¡ t d |¡ƒ t d
|¡ƒ t d |¡ƒ t d |¡ƒ t d
t | ¡¡ƒ t d t |
¡¡ƒ d S )Nr ç ğ?r é é c S s g | ]\}}|| ‘qS r& r& ©Ú.0ÚaÚnr& r& r' Ú
<listcomp> s z%FedMTLPT.evaluate.<locals>.<listcomp>c S s g | ]\}}|| ‘qS r& r& r€ r& r& r' r„ € s zAveraged Train Loss: {:.4f}z Averaged Test Accurancy: {:.4f}z$Averaged Test oral Accurancy: {:.4f}zAveraged Test AUC: {:.4f}zStd Test Accurancy: {:.4f}zStd Test AUC: {:.4f})
Ú test_metricsÚ
train_metricsr= r6 r? r5 rs rr ÚnpÚstdrt r r4 ) r r( ÚlossÚstatsÚ stats_trainÚtest_accÚ test_acc2Útest_aucÚ
train_lossÚaccsÚaucsr& r& r' r/ v s,
zFedMTLPT.evaluatec C s~ g }g }g }g }| j D ]H}| ¡ \}}}} | |d ¡ | |d ¡ | | | ¡ | |¡ qdd„ | j D ƒ}
|
||||fS )Nr} c S s g | ]
}|j ‘qS r& )rP )r� rm r& r& r' r„ ¢ s z)FedMTLPT.test_metrics.<locals>.<listcomp>)r7 r… r5 ) r Ú num_samplesÚ tot_correctÚ tot_correct2Útot_aucrm ÚctÚct2ÚnsÚaucÚidsr& r& r' r… • s
zFedMTLPT.test_metricsc s, | ¡ ‰ ˆ ¡ }‡ fdd„|D ƒ}t |¡S )Nc s g | ]}ˆ | ¡ ‘qS r& )r )r� Úkey©Ú
state_dictr& r' r„ © s z$FedMTLPT.flatten.<locals>.<listcomp>)r� Úkeysr Úcat)r r8 r� ÚWr& rœ r' r ¦ s zFedMTLPT.flattenc C sL t j| j| jf| jd�| _t| jƒD ]"\}}| |j ¡| jd d …|f< q$d S )Nr )
r r r r r r r0 r, r r8 )r rE rF r& r& r' r- ¬ s z FedMTLPT.aggregate_parameters)NN)
Ú__name__Ú
__module__Ú __qualname__r r2 rT rB r@ r/ r… r r- Ú
__classcell__r& r& r$ r' r s -
r )
r Zflcore.clients.clientmtlptr Úflcore.servers.serverbaser Ú threadingr rv rQ rY Únumpyr‡ r r& r& r& r' Ú<module> s | 6,744 | Python | .pyt | 57 | 117.122807 | 640 | 0.419258 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,962 | serverperpt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverperpt.cpython-38.pyc | U
Õ şcG ã @ s` d dl mZ d dlmZ d dlmZ d dlZd dlZd dlZd dl Z d dl
Z G dd„ deƒZ dS )é )Ú clientPerPT)ÚServer)ÚThreadNc sN e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Zdd d
„Zdd„ Z ‡ Z
S )ÚFedPerPTc sR t ƒ ||¡ | ¡ | |t¡ g | _g | _td| j› d| j › �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)
ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr Úclients_divergeÚdiff_proÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© õc D:\京东\promot\第二次投稿\å®�验\æœ�务器\native - pro\system\flcore\servers\serverperpt.pyr
s zFedPerPT.__init__c
C sš g }t | jd ƒD �]>}| ¡ | _| ¡ || j dkrXtd|› d�ƒ tdƒ | ¡ d}| jD ]}| ¡ }|| ¡ }qbtd
|¡ƒ | j |¡ d}t
| jd jj ¡ | jd jj ¡ ƒD ]:\}}|| } t | dk| t | ¡| ¡} |t | ¡ }qÀtd
| ¡ ¡ƒ | j | ¡ ¡ || j dk�rBtdƒ | j|d � | ¡ | ¡ qtd
ƒ tt| jƒƒ td ƒ tt|ƒƒ | ¡ | ¡ | ¡ d S ) Né r z
-------------Round number: z
-------------z
Evaluate global modelz"Averaged prompr difference: {:.4f}z"0 and 1 clients difference: {:.4f}z
Evaluate local model)Úaccz
Best global accuracy.z
Best local accuracy.) ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚitemÚformatr ÚappendÚzipÚclientsÚmodelÚ generatorÚ
parametersÚtorchÚwhereÚ
zeros_likeÚsumr
Úreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_modelÚsave_client_model)
r Ú local_accÚiÚ
temp_diff_proÚclientÚtemp_diff_pro_clientÚdiverge_clentsÚ new_paramÚ old_paramr r r r r sF
ÿ
zFedPerPT.trainc C s t j d| jd| jjd | jj d | jj d | jj d | jj d | jj
¡}t j |¡sjt |¡ t
| jƒD ]†\}}t j || jd t|ƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d ¡}t |j|¡ qtd S )NÚmodelsr6 Ú*Ú_clientÚ_z.pt)ÚosÚpathÚjoinÚdatasetr Úarv1Úarv2Úarv3Úarv4Úarv5Úarv6ÚexistsÚmakedirsÚ enumerater$ Ú algorithmÚstrÚ
num_promptr
r Ú plocal_stepsr r( Úsaver% )r Ú
model_pathÚc_idxÚcÚmodel_path_saver r r r2 E s T
pzFedPerPT.save_client_modelc C s� t | jƒdkst‚g | _d}g | _g | _| jD ]8}| j |j¡ ||j7 }| j |j¡ | j |j ¡ q.t
| jƒD ]\}}|| | j|< qrd S )Nr ) Úlenr ÚAssertionErrorÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr" Ú
train_samplesÚidr% rK )r Ú tot_samplesr6 r4 Úwr r r r, M s
zFedPerPT.receive_modelsc C s | j d | j }d| jj d | jj d | jj d | jj d | jj d | jj d }t j
|¡srt |¡ t
| jƒ�r |d | j d t| jƒ }|d |¡ }td| ƒ t |d¡�V}|jd| jd � |jd
| jd � |jd | jd � |jd | jd � |jd
| jd � W 5 Q R X d S )Nr> z ../results/r< ú/z{}.h5z File path: r] r/ )ÚdataÚrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr )rB rL r rC rD rE rF rG rH r? r@ rI rJ rU r/ ÚgoalrM r r! r Úh5pyÚFileÚcreate_datasetr` ra rb r )r ÚalgoÚ result_pathÚ file_pathÚhfr r r r0 \ s L
zFedPerPT.save_resultsNc C s| | ¡ }| ¡ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }dd„ t|d |d ƒD ƒ} dd„ t|d |d ƒD ƒ}
|d krÎ| j |¡ n
| |¡ | j |¡ | j t | ¡¡ |d k�r| j
|¡ n
| |¡ t d |¡ƒ t d
|¡ƒ t d |¡ƒ t d |¡ƒ t d
t | ¡¡ƒ t d t |
¡¡ƒ d S )Né ç ğ?r é é c S s g | ]\}}|| ‘qS r r ©Ú.0ÚaÚnr r r Ú
<listcomp>v s z%FedPerPT.evaluate.<locals>.<listcomp>c S s g | ]\}}|| ‘qS r r ro r r r rs w s zAveraged Train Loss: {:.4f}z Averaged Test Accurancy: {:.4f}z$Averaged Test oral Accurancy: {:.4f}zAveraged Test AUC: {:.4f}zStd Test Accurancy: {:.4f}zStd Test AUC: {:.4f})
Ú test_metricsÚ
train_metricsr+ r# r/ r" ra r` ÚnpÚstdrb r r! ) r r ÚlossÚstatsÚ stats_trainÚtest_accÚ test_acc2Útest_aucÚ
train_lossÚaccsÚaucsr r r r m s,
zFedPerPT.evaluatec C s~ g }g }g }g }| j D ]H}| ¡ \}}}} | |d ¡ | |d ¡ | | | ¡ | |¡ qdd„ | j D ƒ}
|
||||fS )Nrl c S s g | ]
}|j ‘qS r )r[ )rp rS r r r rs š s z)FedPerPT.test_metrics.<locals>.<listcomp>)r$ rt r" ) r Ú num_samplesÚ tot_correctÚ tot_correct2Útot_aucrS ÚctÚct2ÚnsÚaucÚidsr r r rt ‹ s
zFedPerPT.test_metrics)NN) Ú__name__Ú
__module__Ú __qualname__r r r2 r, r0 r rt Ú
__classcell__r r r r r s -
r )
Zflcore.clients.clientperptr Úflcore.servers.serverbaser Ú threadingr rd Úcopyr? r( Únumpyrv r r r r r Ú<module> s | 5,687 | Python | .pyt | 52 | 108.153846 | 496 | 0.432044 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,963 | serverdynpt.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverdynpt.cpython-37.pyc | B
‰½ccÉ ã @ sh d dl Z d dlZd dlmZ d dlmZ d dlmZ d dlZd dl Z d dl Z d dl
Z
G dd„ deƒZ dS )é N)Ú clientDynPT)ÚServer)ÚThreadc sL e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Zd d „ Zd
d„ Z ‡ Z
S )ÚFedDynPTc s� t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _g | _ |j
| _
g | _ t
|j¡| _x | j ¡ D ]}t |j¡|_qvW d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudgetÚdiff_proÚalphaÚclients_divergeÚcopyÚdeepcopyÚmodelÚ server_stateÚ
parametersÚtorchÚ
zeros_likeÚdata)ÚselfÚargsÚtimesÚparam)Ú __class__© úH/root/autodl-tmp/PFL-Non-IID-master/system/flcore/servers/serverdynpt.pyr s zFedDynPT.__init__c C s, g }d| _ d}�x¬t| jd ƒD �]˜}t ¡ }| ¡ | _| ¡ || j dkrntd|› d�ƒ tdƒ | ¡ d}x"| jD ]}|
¡ }|| ¡ }qzW td |¡ƒ | j
|¡ d}xdt| jd jj ¡ | jd jj ¡ ƒD ]:\}} || }
t |
dk|
t |
¡|
¡}
|t |
¡ }qÜW td | ¡ ¡ƒ | j | ¡ ¡ || j dk�r`td ƒ | j |d
� | ¡ | ¡ | ¡ | j t ¡ | ¡ td | j d ƒ | j | j g| j d
�| _ |d7 }q W tdƒ tt | j ƒƒ tdƒ tt |ƒƒ tdƒ tt| j dd … ƒt!| j dd … ƒ ƒ | "¡ | #¡ d S )NFr é z
-------------Round number: z
-------------z
Evaluate global modelz"Averaged prompr difference: {:.4f}z"0 and 1 clients difference: {:.4f}z
Evaluate local model)Úaccz2--------------------------------------------------éÿÿÿÿ)Úacc_lssÚtop_cntz
Best global accuracy.z
Best local accuracy.z
Averaged time per iteration.)$ÚdoneÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚitemÚformatr ÚappendÚzipÚclientsr Ú generatorr r Úwherer Úsumr Úreceive_modelsÚupdate_server_stateÚaggregate_parametersr
Ú
check_doneÚ rs_test_accr$ ÚmaxÚlenÚ save_resultsÚsave_global_model) r Ú local_accÚiÚs_tÚ
temp_diff_proÚclientÚtemp_diff_pro_clientÚdiverge_clentsÚ new_paramÚ old_paramr r r r r. sT
0 (zFedDynPT.trainc C s@ x:t | j ¡ | ¡ ƒD ]"\}}| j|j ¡ | j 7 _qW d S )N)r2 Ú global_modelr r ÚcloneÚ join_clients)r Ú client_modelÚ server_paramÚ client_paramr r r Úadd_parameters\ s zFedDynPT.add_parametersc C s t | jƒdkst‚t | jd ¡| _x | j ¡ D ]}t |j ¡|_ q0W x| jD ]}|
|¡ qNW x:t | j ¡ | j ¡ ƒD ] \}}| j d| j
| 8 _ qxW d S )Nr r )r= Úuploaded_modelsÚAssertionErrorr r rI r r r r rO r2 r r )r r rL rM Ú state_paramr r r r9 ` s z FedDynPT.aggregate_parametersc C sÎ t | jƒdkst‚t | jd ¡}x | ¡ D ]}t |j¡|_q,W xP| jD ]F}x@t | j
¡ | ¡ | ¡ ƒD ]"\}}}| j|| | j 7 _qjW qJW x4t | j ¡ | ¡ ƒD ] \}}| j| j
| 8 _qªW d S )Nr )r= rP rQ r r r r r r r2 rI r r r )r Ú model_deltar rL rM rN Ú delta_paramrR r r r r8 m s z FedDynPT.update_server_statec C sŠ t | jƒdkst‚d}x| jD ]}||j7 }q W g | _g | _g | _xB| jD ]8}| j |j| ¡ | j |j¡ | j t
|j ¡¡ qJW d S )Nr ) r= r* rQ Ú
train_samplesÚuploaded_weightsÚ uploaded_idsrP r1 Úidr r r )r Úactive_train_samplesrD r r r r7 { s zFedDynPT.receive_modelsc C sÖ | j d | j }d}tj |¡s*t |¡ t| jƒrÒ|d | j d t | j
ƒ }|d |¡ }t d| ƒ t
|d¡�V}|jd| jd� |jd| jd� |jd | jd� |jd
| jd� |jd | jd� W d Q R X d S ) NÚ_z ../results/z{}.h5z File path: Úwr; )r Úrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr )ÚdatasetÚ algorithmÚosÚpathÚexistsÚmakedirsr= r; ÚgoalÚstrr r0 r
Úh5pyÚFileÚcreate_datasetr\ r] r^ r )r ÚalgoÚ result_pathÚ file_pathÚhfr r r r> ‰ s
zFedDynPT.save_results) Ú__name__Ú
__module__Ú __qualname__r r. rO r9 r8 r7 r> Ú
__classcell__r r )r r r s <
r ) r r Z!system.flcore.clients.clientdynptr Ú system.flcore.servers.serverbaser Ú threadingr r( rg ra r r r r r Ú<module> s | 4,852 | Python | .pyt | 39 | 123.179487 | 482 | 0.439551 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,964 | serverproxpt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverproxpt.cpython-38.pyc | U
Õ şcœ ã @ s` d dl mZ d dlmZ d dlmZ d dlZd dlZd dlZd dl Z d dl
Z G dd„ deƒZ dS )é )Ú clientProxPT)ÚServer)ÚThreadNc sN e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Zdd d
„Zdd„ Z ‡ Z
S )Ú FedProxPTc sf t ƒ ||¡ || _| ¡ | |t¡ g | _g | _t |j
¡| _ t d| j
› d| j› �ƒ t dƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__ÚargsÚset_slow_clientsÚ set_clientsr Úclients_divergeÚdiff_proÚcopyÚdeepcopyÚmodelÚ global_modelÚprintÚ
join_ratioÚ num_clients)Úselfr Útimes©Ú __class__© õd D:\京东\promot\第二次投稿\å®�验\æœ�务器\native - pro\system\flcore\servers\serverproxpt.pyr s zFedProxPT.__init__c
C sš g }t | jd ƒD �]>}| ¡ | _| ¡ || j dkrXtd|› d�ƒ tdƒ | ¡ d}| jD ]}| ¡ }|| ¡ }qbtd
|¡ƒ | j |¡ d}t
| jd jj ¡ | jd jj ¡ ƒD ]:\}}|| } t | dk| t | ¡| ¡} |t | ¡ }qÀtd
| ¡ ¡ƒ | j | ¡ ¡ || j dk�rBtdƒ | j|d � | ¡ | ¡ qtd
ƒ tt| jƒƒ td ƒ tt|ƒƒ | ¡ | ¡ | ¡ d S ) Né r z
-------------Round number: z
-------------z
Evaluate global modelz"Averaged prompr difference: {:.4f}z"0 and 1 clients difference: {:.4f}z
Evaluate local model)Úaccz
Best global accuracy.z
Best local accuracy.) ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚitemÚformatr ÚappendÚzipÚclientsr Ú generatorÚ
parametersÚtorchÚwhereÚ
zeros_likeÚsumr Úreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_modelÚsave_client_model)
r Ú local_accÚiZ
temp_diff_proÚclientZtemp_diff_pro_clientZdiverge_clentsÚ new_paramÚ old_paramr r r r r# sF
ÿ
zFedProxPT.trainc C s‚ t | jƒdkst‚d}| jD ]}||j7 }q g | _g | _g | _| jD ]8}| j |j| ¡ | j |j¡ | j t
|j ¡¡ qDd S )Nr ) Úlenr ÚAssertionErrorÚ
train_samplesÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr& Úidr
r r )r Zactive_train_samplesr8 r r r r/ H s
zFedProxPT.receive_modelsc C s t j d| jd| jjd | jj d | jj d | jj d | jj d | jj
¡}t j |¡sjt |¡ t
| jƒD ]†\}}t j || jd t|ƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d ¡}t |j|¡ qtd S )NÚmodelsr8 Ú*Z_clientÚ_z.pt)ÚosÚpathÚjoinÚdatasetr Úarv1Úarv2Úarv3Úarv4Úarv5Úarv6ÚexistsÚmakedirsÚ enumerater( Ú algorithmÚstrÚ
num_promptr r Ú plocal_stepsr r+ Úsaver )r Ú
model_pathÚc_idxÚcZmodel_path_saver r r r5 V s T
pzFedProxPT.save_client_modelc C s€ | j d | j }d| jj d | jj d | jj d | jj d | jj d | jj d }t j
|¡srt |¡ t
| jƒ�r||d | j d t| jƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ }|d |¡ }td| ƒ t |d¡�f}|jd| jd � |jd
| j d � |jd | j d � |jd | j d � |jd
| j d � |jd| j d � W 5 Q R X d S )NrD z ../results/rC ú/z{}.h5z File path: Úwr2 )ÚdataÚrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr r )!rH rR r rI rJ rK rL rM rN rE rF rO rP r; r2 ÚgoalrS r rT r r rU r r% r Úh5pyÚFileÚcreate_datasetr] r^ r_ r r )r ÚalgoÚ result_pathÚ file_pathÚhfr r r r3 ^ s L
l zFedProxPT.save_resultsNc C s| | ¡ }| ¡ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }dd„ t|d |d ƒD ƒ} dd„ t|d |d ƒD ƒ}
|d krÎ| j |¡ n
| |¡ | j |¡ | j t | ¡¡ |d k�r| j
|¡ n
| |¡ t d |¡ƒ t d
|¡ƒ t d |¡ƒ t d |¡ƒ t d
t | ¡¡ƒ t d t |
¡¡ƒ d S )Né ç ğ?r é é c S s g | ]\}}|| ‘qS r r ©Ú.0ÚaÚnr r r Ú
<listcomp>z s z&FedProxPT.evaluate.<locals>.<listcomp>c S s g | ]\}}|| ‘qS r r rl r r r rp { s zAveraged Train Loss: {:.4f}z Averaged Test Accurancy: {:.4f}z$Averaged Test oral Accurancy: {:.4f}zAveraged Test AUC: {:.4f}zStd Test Accurancy: {:.4f}zStd Test AUC: {:.4f})
Ú test_metricsÚ
train_metricsr. r' r2 r& r^ r] ÚnpÚstdr_ r r% ) r r ÚlossÚstatsÚ stats_trainÚtest_accZ test_acc2Útest_aucÚ
train_lossÚaccsÚaucsr r r r" q s,
zFedProxPT.evaluatec C s~ g }g }g }g }| j D ]H}| ¡ \}}}} | |d ¡ | |d ¡ | | | ¡ | |¡ qdd„ | j D ƒ}
|
||||fS )Nri c S s g | ]
}|j ‘qS r )rA )rm rY r r r rp � s z*FedProxPT.test_metrics.<locals>.<listcomp>)r( rq r& ) r Ú num_samplesÚ tot_correctZ tot_correct2Útot_aucrY ÚctÚct2ÚnsÚaucÚidsr r r rq � s
zFedProxPT.test_metrics)NN) Ú__name__Ú
__module__Ú __qualname__r r# r/ r5 r3 r" rq Ú
__classcell__r r r r r
s .
r )
Zflcore.clients.clientproxptr Úflcore.servers.serverbaser Ú threadingr ra r
rE r+ Únumpyrs r r r r r Ú<module> s | 5,886 | Python | .pyt | 51 | 114.156863 | 497 | 0.43146 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,965 | serverbabu.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverbabu.cpython-39.pyc | a
f¾`c• ã @ s8 d dl mZ d dlmZ d dlmZ G dd„ deƒZdS )é )Ú
clientBABU)ÚServer)ÚThreadc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )ÚFedBABUc sF t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© ús/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/serverbabu.pyr s
zFedBABU.__init__c C sÆ t | jd ƒD ]h}| ¡ | _| ¡ || j dkrRtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ qX| ¡ |
¡ qtdƒ tt | j ƒƒ | j
D ] }| ¡ q”tdƒ | ¡ | ¡ | ¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.z4
-------------Evaluate fine-tuned model-------------)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚclientsZ fine_tuneÚ save_resultsÚsave_global_model)r
ÚiÚclientr r r r s&
z
FedBABU.trainc C s� t | jƒdksJ ‚g | _d}g | _g | _| jD ]:}| j |j¡ ||j7 }| j |j¡ | j |jj ¡ q.t
| jƒD ]\}}|| | j|< qtd S )Nr ) Úlenr Úuploaded_weightsÚ uploaded_idsÚuploaded_modelsÚappendÚ
train_samplesÚidÚmodelÚbaseÚ enumerate)r
Ú tot_samplesr% r$ Úwr r r r 7 s
zFedBABU.receive_models)Ú__name__Ú
__module__Ú __qualname__r r r Ú
__classcell__r r r r r s
#r N)Zflcore.clients.clientbabur Úflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 2,038 | Python | .pyt | 22 | 91.454545 | 232 | 0.481904 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,966 | serverreppt.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverreppt.cpython-39.pyc | a
Òibck ã @ sX d dl mZ d dlmZ d dlmZ d dlZd dlZd dlZd dl Z G dd„ deƒZ
dS )é )Ú clientREPPT)ÚServer)ÚThreadNc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) Ú PFedRepPTc s\ t ƒ ||¡ | ¡ | |t¡ t |jj¡| _ t
d| j › d| j › �ƒ t
dƒ g | _
d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚcopyÚdeepcopyÚmodelÚbaseÚ global_modelÚprintÚ
join_ratioÚ num_clientsÚBudget)ÚselfÚargsÚtimes©Ú __class__© út/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/serverreppt.pyr s zPFedRepPT.__init__c C s
t | jd ƒD ]˜}t ¡ }| ¡ | _| ¡ || j dkrZtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ q`|
¡ | ¡ | j
t ¡ | ¡ tddd| j d ƒ qtd ƒ tt| jƒƒ td
ƒ tt| j dd … ƒt| j dd … ƒ ƒ | ¡ | ¡ | ¡ d S ) Né r z
-------------Round number: z
-------------z
Evaluate global modelz-------------------------z time costéÿÿÿÿz
Best global accuracy.z
Average time cost per round.)ÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersr ÚappendÚmaxÚ rs_test_accÚsumÚlenÚ save_resultsÚsave_global_modelÚsave_client_model)r ÚiÚs_tÚclientr r r r$ s*
(zPFedRepPT.trainc C s„ t | jƒdksJ ‚d}| jD ]}||j7 }q g | _g | _g | _| jD ]:}| j |j| ¡ | j |j¡ | j t |j
j ¡¡ qDd S )Nr ) r+ r Ú
train_samplesÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr' Úidr
r r r
)r Úactive_train_samplesr1 r r r r% @ s
zPFedRepPT.receive_modelsc C sn t j d| jd¡}t j |¡s(t |¡ t| jƒD ]6\}}t j || jd t |ƒ d ¡}t
|j |¡ q2d S )NÚmodelsr1 Ú_serverz.pt)
ÚosÚpathÚjoinÚdatasetÚexistsÚmakedirsÚ enumerateÚclientsÚ algorithmÚstrÚtorchÚsaver )r Ú
model_pathÚc_idxÚcÚmodel_path_saver r r r. N s
zPFedRepPT.save_client_model)Ú__name__Ú
__module__Ú __qualname__r r$ r% r. Ú
__classcell__r r r r r
s &r ) Z!system.flcore.clients.clientrepptr Ú system.flcore.servers.serverbaser Ú threadingr r r
rD r: r r r r r Ú<module> s | 2,705 | Python | .pyt | 27 | 98.925926 | 326 | 0.483763 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,967 | serverlocal.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverlocal.cpython-38.pyc | U
ºĞıcc ã @ s8 d dl mZ d dlmZ d dlmZ G dd„ deƒZdS )é )Ú clientAVG)ÚServer)ÚThreadc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚLocalc sF t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© õY D:\京东\promot\第二次投稿\å®�验\native - pro\system\flcore\servers\serverlocal.pyr s
zLocal.__init__c C sÎ g }t | jd ƒD ]|}| ¡ | _|| j dkrNtd|› d�ƒ tdƒ | ¡ | ¡ | _| jD ] }| ¡ q^|| j dkrtdƒ | j|d� qtdƒ tt| j ƒƒ td ƒ tt|ƒƒ |
¡ | ¡ d S )
Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Evaluate local model)Úaccz
Best global accuracy.z
Best local accuracy.) ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚeval_gapr
ÚevaluateÚtrainÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r
Ú local_accÚiÚclientr r r r s&
z Local.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s
r N)Úflcore.clients.clientavgr Úflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 1,535 | Python | .pyt | 18 | 84.055556 | 318 | 0.480896 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,968 | serverfedpt.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverfedpt.cpython-37.pyc | B
ÐecÓ ã @ s` d dl mZ d dlmZ d dlmZ d dlZd dlZd dlZd dl Z d dl
Z
G dd„ deƒZ dS )é )ÚclientT)ÚServer)ÚThreadNc s< e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Z‡ ZS ) ÚFedPTc sn t ƒ ||¡ || _| ¡ | |t¡ t |jj ¡| _
g | _ g | _ t
d| j› d| j› �ƒ t
dƒ g | _d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__ÚargsÚset_slow_clientsÚ set_clientsr ÚcopyÚdeepcopyÚmodelÚbaseÚ global_modelÚdiff_proÚclients_divergeÚprintÚ
join_ratioÚ num_clientsÚBudget)Úselfr Útimes)Ú __class__© úH/root/autodl-tmp/PFL-Non-IID-master/system/flcore/servers/serverfedpt.pyr s zFedPT.__init__c
C sÌ �xft | jd ƒD �]R}t ¡ }| ¡ | _| ¡ || j dkr`td|› d�ƒ tdƒ | ¡ d}x"| jD ]}| ¡ }||
¡ }qlW d}xdt | j d j
j ¡ | j d j
j ¡ ƒD ]:\}}|| } t | dk| t | ¡| ¡} |t | ¡ }q´W td |¡ƒ td |
¡ ¡ƒ | j |¡ | j |
¡ ¡ | ¡ | ¡ | j t ¡ | ¡ tdd d| jd
ƒ qW td ƒ tt| j ƒƒ td ƒ tt| jdd … ƒt | jdd … ƒ ƒ | ¡ | ¡ | ¡ d S )
Né r z
-------------Round number: z
-------------z
Evaluate global modelz"Averaged prompr difference: {:.4f}z"0 and 1 clients difference: {:.4f}z-------------------------z time costéÿÿÿÿz
Best global accuracy.z
Average time cost per round.)!ÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚitemÚzipÚclientsr
Ú generatorÚ
parametersÚtorchÚwhereÚ
zeros_likeÚsumÚformatr Úappendr Úreceive_modelsÚaggregate_parametersr ÚmaxÚ rs_test_accÚlenÚ save_resultsÚsave_global_modelÚsave_client_model)
r ÚiÚs_tÚ
temp_diff_proÚclientÚtemp_diff_pro_clientÚdiverge_clentsÚ new_paramÚ old_paramr r r r r% s@
0 (z FedPT.trainc C sŒ t | jƒdkst‚d}x| jD ]}||j7 }q W g | _g | _g | _xD| jD ]:}| j |j| ¡ | j |j¡ | j t
|j j ¡¡ qJW d S )Nr )
r5 r! ÚAssertionErrorÚ
train_samplesÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr0 Úidr r r
r )r Úactive_train_samplesr< r r r r1 O s zFedPT.receive_modelsc C s t j d| jd¡}t j |¡s(t |¡ x”t| jƒD ]†\}}t j || jd t |ƒ d t | j
j ƒ d t | j
j ƒ d t | j
j
ƒ d t | j
jƒ d t | j
jƒ d ¡}t |j|¡ q4W d S )NÚmodelsr< Ú_clientÚ_z.pt)ÚosÚpathÚjoinÚdatasetÚexistsÚmakedirsÚ enumerater( Ú algorithmÚstrr Ú
num_promptr r Ú plocal_stepsr r+ Úsaver
)r Ú
model_pathÚc_idxÚcÚmodel_path_saver r r r8 ] s
pzFedPT.save_client_modelc C s8 | j d | j }d}tj |¡s*t |¡ t| jƒ�r4|d | j d t | j
ƒ d t | j j ƒ d t | j j
ƒ d t | j jƒ d t | j jƒ d t | j jƒ }|d |¡ }td| ƒ t |d¡�f}|jd| jd� |jd| jd� |jd | jd� |jd
| jd� |jd | jd� |jd | jd� W d Q R X d S )
NrJ z ../results/z{}.h5z File path: Úwr4 )ÚdataÚrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr r )rN rR rK rL rO rP r5 r4 ÚgoalrS r r rT r r rU r r/ r Úh5pyÚFileÚcreate_datasetr] r^ r_ r r )r ÚalgoÚ result_pathÚ file_pathÚhfr r r r6 e s
l zFedPT.save_results) Ú__name__Ú
__module__Ú __qualname__r r% r1 r8 r6 Ú
__classcell__r r )r r r
s
2r ) Z system.flcore.clients.clienttr Ú system.flcore.servers.serverbaser Ú threadingr r r+ rK ra r r r r r r Ú<module> s | 4,029 | Python | .pyt | 36 | 110.666667 | 397 | 0.457687 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,969 | serverfomo.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverfomo.cpython-39.pyc | a
f¾`ci ã @ s` d dl Z d dlZd dlZd dlZd dlZd dlmZ d dlm Z d dl
m Z G dd„ de ƒZ dS )é N)Ú
clientFomo)ÚServer)ÚThreadc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) ÚFedFomoc s€ t ƒ ||¡ | ¡ | |t¡ t tj| j| j d�¡| _
| j g| _ g | _
t|j| jƒ| _td| j› d| j› �ƒ tdƒ d S )N)Údevicez
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚtorchÚdiagÚonesÚ num_clientsr ÚPÚ global_modelÚuploaded_modelsÚ uploaded_idsÚminÚMÚ join_clientsÚprintÚ
join_ratio)ÚselfÚargsÚtimes©Ú __class__© ús/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/serverfomo.pyr s
zFedFomo.__init__c C sš t | jd ƒD ]`}| ¡ | _| ¡ || j dkrRtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ qX| ¡ qtdƒ tt
| j ƒƒ | ¡ |
¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚreceive_modelsÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r ÚiÚclientr r r r' s
z
FedFomo.trainc C sø t | jƒdksJ ‚| jD ]Ú}t ¡ }|jrDt dt tj ¡ ¡ ¡ t | j ƒdkrÂt
| j t | j ƒƒ}t
| j|j | j |¡j ¡ }g }g }|D ]$}| | j | ¡ | | j | ¡ q�| ||¡ |jd d7 < |jd dt ¡ | 7 < qd S )Nr gš™™™™™¹?Ú
num_roundsr Ú
total_costé )Úlenr# ÚtimeÚ send_slowÚsleepÚnpÚabsÚrandomÚrandr r r r r Útopkr ÚidÚindicesÚtolistÚappendr( Úsend_time_cost)r r. Ú
start_timeZM_r< r r r- r r r r$ 9 s
zFedFomo.send_modelsc C sø t | jƒdksJ ‚t | jtd| j | j ƒ¡}g | _g | _d}g | _ |D ]†}|j
d |j
d |j d |j d }|| j krJ| j
|j¡ | j
|j¡ ||j7 }| j
t |j¡¡ | j|j |j7 < qJt| jƒD ]\}}|| | j|< qÜd S )Nr r r0 r/ )r2 r# r8 ÚsampleÚintÚclient_drop_rater r Úuploaded_weightsr Útrain_time_costr? Útime_thretholdr> r; Ú
train_samplesÚcopyÚdeepcopyÚmodelr Z
weight_vectorÚ enumerate)r Zactive_clientsÚ tot_samplesr. Zclient_time_costr- Úwr r r r( P s( ÿÿ
zFedFomo.receive_models)Ú__name__Ú
__module__Ú __qualname__r r' r$ r( Ú
__classcell__r r r r r s r )
r r3 rH r8 Únumpyr6 Zflcore.clients.clientfomor Úflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 3,014 | Python | .pyt | 26 | 114.807692 | 501 | 0.457009 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,970 | serverditto.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverditto.cpython-39.pyc | a
f¾`cü ã @ sH d dl Z d dlmZ d dlmZ d dlmZ d dlZG dd„ deƒZdS )é N)Ú clientDitto)ÚServer)ÚThreadc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚDittoc sL t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.) ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudget)ÚselfÚargsÚtimes©Ú __class__© út/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/serverditto.pyr s zDitto.__init__c C s
t | jd ƒD ] }t ¡ }| ¡ | _| ¡ || j dkrZtd|› d�ƒ tdƒ | ¡ | jD ]}| ¡ |
¡ q`| ¡ | ¡ | j
t ¡ | ¡ tddd| j
d ƒ qtd ƒ tt| jƒƒ td
ƒ tt| j
dd … ƒt| j
dd … ƒ ƒ | ¡ | ¡ d S ) Né r z
-------------Round number: z
-------------z
Evaluate global modelz-------------------------z time costéÿÿÿÿz
Best global accuracy.z
Average time cost per round.)ÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateZptrainÚtrainÚreceive_modelsÚaggregate_parametersr
ÚappendÚmaxÚ rs_test_accÚsumÚlenÚ save_resultsÚsave_global_model)r ÚiÚs_tÚclientr r r r s*
(z Ditto.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s r ) ÚcopyZflcore.clients.clientdittor Úflcore.servers.serverbaser Ú threadingr r r r r r r Ú<module> s
| 1,777 | Python | .pyt | 17 | 103.235294 | 343 | 0.488927 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,971 | serverfomo.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverfomo.cpython-37.pyc | B
¸:cci ã @ s` d dl Z d dlZd dlZd dlZd dlZd dlmZ d dlm Z d dl
m Z G dd„ de ƒZ dS )é N)Ú
clientFomo)ÚServer)ÚThreadc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) ÚFedFomoc s€ t ƒ ||¡ | ¡ | |t¡ t tj| j| j d�¡| _
| j g| _ g | _
t|j| jƒ| _td| j› d| j› �ƒ tdƒ d S )N)Údevicez
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚtorchÚdiagÚonesÚ num_clientsr ÚPÚ global_modelÚuploaded_modelsÚ uploaded_idsÚminÚMÚ join_clientsÚprintÚ
join_ratio)ÚselfÚargsÚtimes)Ú __class__© úG/root/autodl-tmp/PFL-Non-IID-master/system/flcore/servers/serverfomo.pyr s
zFedFomo.__init__c C s¢ xvt | jd ƒD ]d}| ¡ | _| ¡ || j dkrTtd|› d�ƒ tdƒ | ¡ x| jD ] }| ¡ q\W | ¡ qW tdƒ tt
| j ƒƒ | ¡ |
¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚreceive_modelsÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r ÚiÚclientr r r r& s
z
FedFomo.trainc C s t | jƒdkst‚xè| jD ]Ş}t ¡ }|jrFt dt tj ¡ ¡ ¡ t | j
ƒdkrÈt | j t | j
ƒƒ}t | j|j | j
|¡j ¡ }g }g }x,|D ]$}| | j
| ¡ | | j
| ¡ q”W | ||¡ |jd d7 < |jd dt ¡ | 7 < qW d S )Nr gš™™™™™¹?Ú
num_roundsr Ú
total_costé )Úlenr" ÚAssertionErrorÚtimeÚ send_slowÚsleepÚnpÚabsÚrandomÚrandr r r r r Útopkr ÚidÚindicesÚtolistÚappendr' Úsend_time_cost)r r- Ú
start_timeZM_r< r r r, r r r r# 9 s
zFedFomo.send_modelsc C s t | jƒdkst‚t | jtd| j | j ƒ¡}g | _g | _ d}g | _
x�|D ]†}|j d |j d |j d |j d }|| j
krL| j |j¡ | j |j¡ ||j7 }| j
t |j¡¡ | j|j |j7 < qLW x$t| j ƒD ]\}}|| | j |< qâW d S )Nr r r/ r. )r1 r" r2 r8 ÚsampleÚintÚclient_drop_rater r Úuploaded_weightsr Útrain_time_costr? Útime_thretholdr> r; Ú
train_samplesÚcopyÚdeepcopyÚmodelr Z
weight_vectorÚ enumerate)r Zactive_clientsÚ tot_samplesr- Zclient_time_costr, Úwr r r r' P s$
zFedFomo.receive_models)Ú__name__Ú
__module__Ú __qualname__r r& r# r' Ú
__classcell__r r )r r r s r )
r r3 rH r8 Únumpyr6 Zflcore.clients.clientfomor Úflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 2,989 | Python | .pyt | 26 | 113.807692 | 422 | 0.45614 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,972 | serverapfl.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverapfl.cpython-39.pyc | a
f¾`c® ã @ s8 d dl mZ d dlmZ d dlmZ G dd„ deƒZdS )é )Ú
clientAPFL)ÚServer)ÚThreadc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚAPFLc sF t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© ús/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/serverapfl.pyr s
z
APFL.__init__c C s¢ t | jd ƒD ]h}| ¡ | _| ¡ || j dkrRtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ qX| ¡ |
¡ qtdƒ tt | j ƒƒ |
¡ | ¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r
ÚiÚclientr r r r s
z
APFL.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s
r N)Zflcore.clients.clientapflr Úflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 1,492 | Python | .pyt | 17 | 86.529412 | 225 | 0.500678 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,973 | serverbn.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverbn.cpython-38.pyc | U
”jfcã ã @ sL d dl mZ d dlmZ d dlmZ d dlmZ d dlZG dd„ deƒZ dS )é )ÚclientBN)ÚServer)Úread_client_data)ÚThreadNc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚFedBNc sF t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© õJ D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\servers\serverbn.pyr s
zFedBN.__init__c C s¢ t | jd ƒD ]h}| ¡ | _| ¡ || j dkrRtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ qX| ¡ |
¡ qtdƒ tt | j ƒƒ |
¡ | ¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r ÚiÚclientr r r r s
z FedBN.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s
r )
Zflcore.clients.clientbnr Úflcore.servers.serverbaser Úutils.data_utilsr Ú threadingr Útimer r r r r Ú<module> s
| 1,526 | Python | .pyt | 16 | 94.125 | 358 | 0.494375 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,974 | serverreppt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverreppt.cpython-38.pyc | U
Õ şc¡ ã @ sp d dl mZ d dlmZ d dlmZ d dlZd dlZd dlZd dl Z d dl
Z
d dlZd dl Z G dd„ deƒZ
dS )é )Ú clientREPPT)ÚServer)ÚThreadNc sN e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Zdd d
„Zdd„ Z ‡ Z
S )Ú PFedRepPTc sn t ƒ ||¡ || _| ¡ | |t¡ t |jj ¡| _
g | _ g | _ t
d| j› d| j› �ƒ t
dƒ g | _d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__ÚargsÚset_slow_clientsÚ set_clientsr ÚcopyÚdeepcopyÚmodelÚbaseÚ global_modelÚdiff_proÚclients_divergeÚprintÚ
join_ratioÚ num_clientsÚBudget)Úselfr Útimes©Ú __class__© õc D:\京东\promot\第二次投稿\å®�验\æœ�务器\native - pro\system\flcore\servers\serverreppt.pyr s zPFedRepPT.__init__c C sú g }t | jd ƒD �]n}t ¡ }| ¡ | _| ¡ || j dkr`td|› d�ƒ tdƒ | ¡ d}| jD ]}| ¡ }||
¡ }qjd}t | j d j
j ¡ | j d j
j ¡ ƒD ]:\}} || }
t |
dk|
t |
¡|
¡}
|t |
¡ }q®td |
¡ ¡ƒ | j |
¡ ¡ td |¡ƒ | j |¡ || j dk�rJtdƒ | j|d � | ¡ | ¡ | j t ¡ | ¡ td
d d
| jd ƒ qtd
ƒ tt| j ƒƒ tdƒ tt| jdd … ƒt | jdd … ƒ ƒ tdƒ tt|ƒƒ | ¡ | ¡ | ¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz"0 and 1 clients difference: {:.4f}z"Averaged prompr difference: {:.4f}z
Evaluate local model)Úaccz-------------------------z time costéÿÿÿÿz
Best global accuracy.z
Average time cost per round.z
Best local accuracy.)!ÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚitemÚzipÚclientsr
Ú generatorÚ
parametersÚtorchÚwhereÚ
zeros_likeÚsumÚformatr Úappendr Úreceive_modelsÚaggregate_parametersr ÚmaxÚ rs_test_accÚlenÚ save_resultsÚsave_global_modelÚsave_client_model) r Ú local_accÚiÚs_tÚ
temp_diff_proÚclientÚtemp_diff_pro_clientÚdiverge_clentsÚ new_paramÚ old_paramr r r r r' sL
. ( zPFedRepPT.trainc C s„ t | jƒdkst‚d}| jD ]}||j7 }q g | _g | _g | _| jD ]:}| j |j| ¡ | j |j¡ | j t
|j j ¡¡ qDd S )Nr )
r7 r# ÚAssertionErrorÚ
train_samplesÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr2 Úidr r r
r )r Úactive_train_samplesr? r r r r3 Q s
zPFedRepPT.receive_modelsc C s t j d| jd| jjd | jj d | jj d | jj d | jj d | jj
¡}t j |¡sjt |¡ t
| jƒD ]†\}}t j || jd t|ƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d ¡}t |j|¡ qtd S )NÚmodelsr? Ú*Ú_clientÚ_z.pt)ÚosÚpathÚjoinÚdatasetr Úarv1Úarv2Úarv3Úarv4Úarv5Úarv6ÚexistsÚmakedirsÚ enumerater* Ú algorithmÚstrÚ
num_promptr r Ú plocal_stepsr r- Úsaver
)r Ú
model_pathÚc_idxÚcÚmodel_path_saver r r r: _ s T
pzPFedRepPT.save_client_modelc C s€ | j d | j }d| jj d | jj d | jj d | jj d | jj d | jj d }t j
|¡srt |¡ t
| jƒ�r||d | j d t| jƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ }|d |¡ }td| ƒ t |d¡�f}|jd| jd � |jd
| j d � |jd | j d � |jd | j d � |jd
| j d � |jd| j d � W 5 Q R X d S )NrN z ../results/rL ú/z{}.h5z File path: Úwr6 )ÚdataÚrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr r )!rR r\ r rS rT rU rV rW rX rO rP rY rZ r7 r6 Úgoalr] r r^ r r r_ r r1 r Úh5pyÚFileÚcreate_datasetrh ri rj r r )r ÚalgoÚ result_pathÚ file_pathÚhfr r r r8 g s L
l zPFedRepPT.save_resultsNc C s| | ¡ }| ¡ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }dd„ t|d |d ƒD ƒ} dd„ t|d |d ƒD ƒ}
|d krÎ| j |¡ n
| |¡ | j |¡ | j t | ¡¡ |d k�r| j
|¡ n
| |¡ t d |¡ƒ t d
|¡ƒ t d |¡ƒ t d |¡ƒ t d
t | ¡¡ƒ t d t |
¡¡ƒ d S )Né ç ğ?r é é c S s g | ]\}}|| ‘qS r r ©Ú.0ÚaÚnr r r Ú
<listcomp>‚ s z&PFedRepPT.evaluate.<locals>.<listcomp>c S s g | ]\}}|| ‘qS r r rw r r r r{ ƒ s zAveraged Train Loss: {:.4f}z Averaged Test Accurancy: {:.4f}z$Averaged Test oral Accurancy: {:.4f}zAveraged Test AUC: {:.4f}zStd Test Accurancy: {:.4f}zStd Test AUC: {:.4f})
Ú test_metricsÚ
train_metricsr0 r) r6 r2 ri rh ÚnpÚstdrj r r1 ) r r ÚlossÚstatsÚ stats_trainÚtest_accÚ test_acc2Útest_aucÚ
train_lossÚaccsÚaucsr r r r& y s,
zPFedRepPT.evaluatec C s~ g }g }g }g }| j D ]H}| ¡ \}}}} | |d ¡ | |d ¡ | | | ¡ | |¡ qdd„ | j D ƒ}
|
||||fS )Nrt c S s g | ]
}|j ‘qS r )rI )rx rc r r r r{ ¦ s z*PFedRepPT.test_metrics.<locals>.<listcomp>)r* r| r2 ) r Ú num_samplesÚ tot_correctÚ tot_correct2Útot_aucrc ÚctÚct2ÚnsÚaucÚidsr r r r| — s
zPFedRepPT.test_metrics)NN) Ú__name__Ú
__module__Ú __qualname__r r' r3 r: r8 r& r| Ú
__classcell__r r r r r s 4
r )Zflcore.clients.clientrepptr Úflcore.servers.serverbaser Ú threadingr r! r r- rO rl Únumpyr~ r r r r r Ú<module> s | 6,136 | Python | .pyt | 58 | 104.534483 | 497 | 0.430005 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,975 | serverper.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverper.cpython-37.pyc | B
¿:ccî ã @ s8 d dl mZ d dlmZ d dlmZ G dd„ deƒZdS )é )Ú clientPer)ÚServer)ÚThreadc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )ÚFedPerc sF t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes)Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/servers/serverper.pyr s
zFedPer.__init__c C sª x~t | jd ƒD ]l}| ¡ | _| ¡ || j dkrTtd|› d�ƒ tdƒ | ¡ x| jD ] }| ¡ q\W | ¡ |
¡ qW tdƒ tt | j ƒƒ |
¡ | ¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r
ÚiÚclientr r r r s
z FedPer.trainc C s˜ t | jƒdkst‚g | _d}g | _g | _xD| jD ]:}| j |j¡ ||j7 }| j |j¡ | j |j j
¡ q0W x$t | jƒD ]\}}|| | j|< qzW d S )Nr ) Úlenr ÚAssertionErrorÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsÚappendÚ
train_samplesÚidÚmodelÚbaseÚ enumerate)r
Ú tot_samplesr# r" Úwr r r r 2 s
zFedPer.receive_models)Ú__name__Ú
__module__Ú __qualname__r r r Ú
__classcell__r r )r r r s
r N)Zflcore.clients.clientperr Úflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 1,883 | Python | .pyt | 14 | 133.214286 | 315 | 0.483422 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,976 | serverdynpt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverdynpt.cpython-38.pyc | U
œMgc| ã @ sh d dl Z d dlZd dlmZ d dlmZ d dlmZ d dlZd dl Z d dl Z d dl
Z
G dd„ deƒZ dS )é N)Ú clientDynPT)ÚServer)ÚThreadc sD e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Zd d „ Z‡ Z S )
ÚFedDynPTc sŒ t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _g | _ |j
| _
g | _ t
|j¡| _| j ¡ D ]}t |j¡|_qtd S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudgetÚdiff_proÚalphaÚclients_divergeÚcopyÚdeepcopyÚmodelÚ server_stateÚ
parametersÚtorchÚ
zeros_likeÚdata)ÚselfÚargsÚtimesÚparam©Ú __class__© õF D:\京东\promot\cifar\cifar\tiny\system\flcore\servers\serverdynpt.pyr s zFedDynPT.__init__c C s g }d| _ d}t| jd ƒD �]�}t ¡ }| ¡ | _| ¡ || j dkrjtd|› d�ƒ tdƒ | ¡ d}| jD ]}|
¡ }|| ¡ }qttd |¡ƒ | j
|¡ d}t| jd jj ¡ | jd jj ¡ ƒD ]:\}} || }
t |
dk|
t |
¡|
¡}
|t |
¡ }qÒtd | ¡ ¡ƒ | j | ¡ ¡ || j dk�rTtd ƒ | j |d
� | ¡ | ¡ | ¡ | j t ¡ | ¡ td | j d ƒ | j | j g| j d
�| _ |d7 }q tdƒ tt | j ƒƒ tdƒ tt |ƒƒ tdƒ tt| j dd … ƒt!| j dd … ƒ ƒ | "¡ | #¡ d S )NFr é z
-------------Round number: z
-------------z
Evaluate global modelz"Averaged prompr difference: {:.4f}z"0 and 1 clients difference: {:.4f}z
Evaluate local model)Úaccz2--------------------------------------------------éÿÿÿÿ)Úacc_lssÚtop_cntz
Best global accuracy.z
Best local accuracy.z
Averaged time per iteration.)$ÚdoneÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚitemÚformatr ÚappendÚzipÚclientsr Ú generatorr r Úwherer Úsumr Úreceive_modelsÚupdate_server_stateÚaggregate_parametersr
Ú
check_doneÚ rs_test_accr% ÚmaxÚlenÚ save_resultsÚsave_global_model) r Ú local_accÚiÚs_tÚ
temp_diff_proÚclientÚtemp_diff_pro_clientÚdiverge_clentsÚ new_paramÚ old_paramr r r r r/ sT
.
(zFedDynPT.trainc C s< t | j ¡ | ¡ ƒD ]"\}}| j|j ¡ | j 7 _qd S )N)r3 Ú global_modelr r ÚcloneÚ join_clients)r Ú client_modelÚ server_paramÚ client_paramr r r Úadd_parameters\ s zFedDynPT.add_parametersc C s” t | jƒdkst‚t | jd ¡| _| j ¡ D ]}t |j ¡|_ q.| jD ]}|
|¡ qHt | j ¡ | j ¡ ƒD ] \}}| j d| j
| 8 _ qnd S )Nr r! )r> Úuploaded_modelsÚAssertionErrorr r rJ r r r r rP r3 r r )r r rM rN Ú state_paramr r r r: ` s
z FedDynPT.aggregate_parametersc C s¾ t | jƒdkst‚t | jd ¡}| ¡ D ]}t |j¡|_q*| jD ]B}t | j
¡ | ¡ | ¡ ƒD ]"\}}}| j|| | j 7 _qbqDt | j ¡ | ¡ ƒD ] \}}| j| j
| 8 _qœd S )Nr )r> rQ rR r r r r r r r3 rJ r r r )r Ú model_deltar rM rN rO Ú delta_paramrS r r r r9 m s
ÿ z FedDynPT.update_server_statec C sÖ | j d | j }d}tj |¡s*t |¡ t| jƒrÒ|d | j d t | j
ƒ }|d |¡ }t d| ƒ t
|d¡�V}|jd| jd� |jd| jd� |jd | jd� |jd
| jd� |jd | jd� W 5 Q R X d S ) NÚ_z ../results/z{}.h5z File path: Úwr< )r Úrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr )ÚdatasetÚ algorithmÚosÚpathÚexistsÚmakedirsr> r< ÚgoalÚstrr r1 r
Úh5pyÚFileÚcreate_datasetrX rY rZ r )r ÚalgoÚ result_pathÚ file_pathÚhfr r r r? | s
zFedDynPT.save_results)
Ú__name__Ú
__module__Ú __qualname__r r/ rP r: r9 r? Ú
__classcell__r r r r r s <
r ) r r Zflcore.clients.clientdynptr Úflcore.servers.serverbaser Ú threadingr r) rc r] r r r r r Ú<module> s | 4,433 | Python | .pyt | 43 | 101.930233 | 403 | 0.438169 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,977 | serverfedpt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverfedpt.cpython-38.pyc | U
[ÐýcÇ ã @ s` d dl mZ d dlmZ d dlmZ d dlZd dlZd dlZd dl Z d dl
Z
G dd„ deƒZ dS )é )ÚclientT)ÚServer)ÚThreadNc s< e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Z‡ ZS ) ÚFedPTc sn t ƒ ||¡ || _| ¡ | |t¡ t |jj ¡| _
g | _ g | _ t
d| j› d| j› �ƒ t
dƒ g | _d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__ÚargsÚset_slow_clientsÚ set_clientsr ÚcopyÚdeepcopyÚmodelÚbaseÚ global_modelÚdiff_proÚclients_divergeÚprintÚ
join_ratioÚ num_clientsÚBudget)Úselfr Útimes©Ú __class__© õY D:\京东\promot\第二次投稿\实验\native - pro\system\flcore\servers\serverfedpt.pyr s zFedPT.__init__c
C s¾ t | jd ƒD �]J}t ¡ }| ¡ | _| ¡ || j dkr\td|› d�ƒ tdƒ | ¡ d}| jD ]}| ¡ }||
¡ }qfd}t | j d j
j ¡ | j d j
j ¡ ƒD ]:\}}|| } t | dk| t | ¡| ¡} |t | ¡ }qªtd |¡ƒ td |
¡ ¡ƒ | j |¡ | j |
¡ ¡ | ¡ | ¡ | j t ¡ | ¡ tdd d| jd
ƒ qtd ƒ tt| j ƒƒ td ƒ tt| jdd … ƒt | jdd … ƒ ƒ | ¡ | ¡ | ¡ d S )
Né r z
-------------Round number: z
-------------z
Evaluate global modelz"Averaged prompr difference: {:.4f}z"0 and 1 clients difference: {:.4f}z-------------------------z time costéÿÿÿÿz
Best global accuracy.z
Average time cost per round.)!ÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚitemÚzipÚclientsr
Ú generatorÚ
parametersÚtorchÚwhereÚ
zeros_likeÚsumÚformatr Úappendr Úreceive_modelsÚaggregate_parametersr ÚmaxÚ rs_test_accÚlenÚ save_resultsÚsave_global_modelÚsave_client_model)
r ÚiÚs_tÚ
temp_diff_proÚclientÚtemp_diff_pro_clientÚdiverge_clentsÚ new_paramÚ old_paramr r r r r& s@
. (z FedPT.trainc C s„ t | jƒdkst‚d}| jD ]}||j7 }q g | _g | _g | _| jD ]:}| j |j| ¡ | j |j¡ | j t
|j j ¡¡ qDd S )Nr )
r6 r" ÚAssertionErrorÚ
train_samplesÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr1 Úidr r r
r )r Úactive_train_samplesr= r r r r2 P s
zFedPT.receive_modelsc C s¾ t j d| jd¡}t j |¡s(t |¡ t| jƒD ]†\}}t j || jd t |ƒ d t | j
j ƒ d t | j
j ƒ d t | j
j
ƒ d t | j
jƒ d t | j
jƒ d ¡}t |j|¡ q2d S )NÚmodelsr= Ú_clientÚ_z.pt)ÚosÚpathÚjoinÚdatasetÚexistsÚmakedirsÚ enumerater) Ú algorithmÚstrr Ú
num_promptr r Ú plocal_stepsr r, Úsaver
)r Ú
model_pathÚc_idxÚcÚmodel_path_saver r r r9 ^ s
pzFedPT.save_client_modelc C s8 | j d | j }d}tj |¡s*t |¡ t| jƒ�r4|d | j d t | j
ƒ d t | j j ƒ d t | j j
ƒ d t | j jƒ d t | j jƒ d t | j jƒ }|d |¡ }td| ƒ t |d¡�f}|jd| jd� |jd| jd� |jd | jd� |jd
| jd� |jd | jd� |jd | jd� W 5 Q R X d S )
NrK z ../results/z{}.h5z File path: Úwr5 )ÚdataÚrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr r )rO rS rL rM rP rQ r6 r5 ÚgoalrT r r rU r r rV r r0 r Úh5pyÚFileÚcreate_datasetr^ r_ r` r r )r ÚalgoÚ result_pathÚ file_pathÚhfr r r r7 f s
l zFedPT.save_results) Ú__name__Ú
__module__Ú __qualname__r r& r2 r9 r7 Ú
__classcell__r r r r r
s
3r ) Zflcore.clients.clienttr Úflcore.servers.serverbaser Ú threadingr r r, rL rb r r r r r r Ú<module> s | 4,035 | Python | .pyt | 39 | 102.230769 | 397 | 0.451839 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,978 | serverdynpt.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverdynpt.cpython-39.pyc | a
»¢bc ã @ sP d dl Z d dlZd dlmZ d dlmZ d dlmZ d dlZG dd„ deƒZ dS )é N)Ú clientDynPT)ÚServer)ÚThreadc sD e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Zd d „ Z‡ Z S )
ÚFedDynPTc s€ t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _|j | _ t
|j ¡| _
| j
¡ D ]}t |j¡|_qhd S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudgetÚalphaÚcopyÚdeepcopyÚmodelÚ server_stateÚ
parametersÚtorchÚ
zeros_likeÚdata)ÚselfÚargsÚtimesÚparam©Ú __class__© út/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/serverdynpt.pyr
s zFedDynPT.__init__c C sh g }d| _ d}t| jd ƒD ]Ü}t ¡ }| ¡ | _| ¡ || j dkrhtd|› d�ƒ tdƒ | ¡ | jD ] }|
¡ qn|| j dkržtdƒ | j |d� | ¡ | ¡ |
¡ | j t ¡ | ¡ td | jd
ƒ | j| jg| jd �| _ |d7 }q td ƒ tt| jƒƒ td
ƒ tt|ƒƒ tdƒ tt| jdd … ƒt| jdd … ƒ ƒ | ¡ | ¡ d S )NFr é z
-------------Round number: z
-------------z
Evaluate global modelz
Evaluate local model)Úaccz2--------------------------------------------------éÿÿÿÿ)Úacc_lssÚtop_cntz
Best global accuracy.z
Best local accuracy.z
Averaged time per iteration.)ÚdoneÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚupdate_server_stateÚaggregate_parametersr
ÚappendÚ
check_doneÚ rs_test_accr# ÚmaxÚsumÚlenÚ save_resultsÚsave_global_model)r Ú local_accÚiÚs_tÚclientr r r r- s>
(zFedDynPT.trainc C s< t | j ¡ | ¡ ƒD ]"\}}| j|j ¡ | j 7 _qd S )N)ÚzipÚ global_modelr r ÚcloneÚ join_clients)r Ú client_modelÚ server_paramÚ client_paramr r r Úadd_parametersO s zFedDynPT.add_parametersc C s” t | jƒdksJ ‚t | jd ¡| _| j ¡ D ]}t |j¡|_q.| jD ]}| |¡ qHt
| j ¡ | j ¡ ƒD ] \}}| jd| j | 8 _qnd S )Nr r )
r6 Úuploaded_modelsr r r> r r r r rD r= r r )r r rA rB Ú state_paramr r r r0 S s
z FedDynPT.aggregate_parametersc C s¾ t | jƒdksJ ‚t | jd ¡}| ¡ D ]}t |j¡|_q*| jD ]B}t| j ¡ | ¡ | ¡ ƒD ]"\}}}| j|| | j
7 _qbqDt| j ¡ | ¡ ƒD ] \}}| j| j | 8 _qœd S ©Nr )
r6 rE r r r r r r r= r> r r r )r Ú model_deltar rA rB rC Ú delta_paramrF r r r r/ ` s
ÿ z FedDynPT.update_server_statec C s‚ t | jƒdksJ ‚d}| jD ]}||j7 }q g | _g | _g | _| jD ]8}| j |j| ¡ | j |j¡ | j t |j
¡¡ qDd S rG ) r6 r) Ú
train_samplesÚuploaded_weightsÚ uploaded_idsrE r1 Úidr r r )r Úactive_train_samplesr< r r r r. n s
zFedDynPT.receive_models)
Ú__name__Ú
__module__Ú __qualname__r r- rD r0 r/ r. Ú
__classcell__r r r r r s 2
r )
r r Z!system.flcore.clients.clientdynptr Ú system.flcore.servers.serverbaser Ú threadingr r' r r r r r Ú<module> s | 3,712 | Python | .pyt | 34 | 107.970588 | 413 | 0.437075 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,979 | servermtl.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/servermtl.cpython-38.pyc | U
ºĞıcå ã @ s@ d dl Z d dlmZ d dlmZ d dlmZ G dd„ deƒZdS )é N)Ú clientMTL)ÚServer)ÚThreadc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) ÚFedMTLc sÈ t ƒ ||¡ t| | j¡ƒ| _tj| j| jf|j d�| _
|j | _ t | j| jf¡}t | jdf¡}|d| j | |j
¡ d }| |j ¡| _| ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )N©Údeviceé é z
Join clients / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__ÚlenÚflattenÚ global_modelÚdimÚtorchÚzerosÚ join_clientsr ÚW_globÚonesÚmmÚTÚtoÚomegaÚset_slow_clientsÚ set_clientsr ÚprintÚ num_clients)ÚselfÚargsÚtimesÚIÚir ©Ú __class__© õW D:\京东\promot\第二次投稿\å®�验\native - pro\system\flcore\servers\servermtl.pyr s zFedMTL.__init__c C sæ g }t | jd ƒD ]”}| ¡ | _| ¡ || j dkrVtd|› d�ƒ tdƒ | ¡ t| jƒD ]"\}}| | j
| j |¡ | ¡ q`|| j dkrtdƒ | j|d� qtdƒ tt
| jƒƒ td ƒ tt
|ƒƒ | ¡ | ¡ d S )
Nr r z
-------------Round number: z
-------------z
Evaluate global modelz
Evaluate local model)Úaccz
Best global accuracy.z
Best local accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚaggregate_parametersÚeval_gapr ÚevaluateÚ enumerateZreceive_valuesr r ÚtrainÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r Ú local_accr! ÚidxÚclientr$ r$ r% r/ s(
z FedMTL.trainc s, | ¡ ‰ ˆ ¡ }‡ fdd„|D ƒ}t |¡S )Nc s g | ]}ˆ | ¡ ‘qS r$ )r
)Ú.0Úkey©Ú
state_dictr$ r% Ú
<listcomp>@ s z"FedMTL.flatten.<locals>.<listcomp>)r: Úkeysr Úcat)r Úmodelr< ÚWr$ r9 r% r
= s zFedMTL.flattenc C sL t j| j| jf| jd�| _t| jƒD ]"\}}| |j ¡| jd d …|f< q$d S )Nr )
r r r r r r r. r* r
r> )r r5 r6 r$ r$ r% r+ C s zFedMTL.aggregate_parameters)Ú__name__Ú
__module__Ú __qualname__r r/ r
r+ Ú
__classcell__r$ r$ r" r% r s !r )r Zflcore.clients.clientmtlr Úflcore.servers.serverbaser Ú threadingr r r$ r$ r$ r% Ú<module> s | 2,520 | Python | .pyt | 17 | 147.058824 | 582 | 0.436502 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,980 | serverpFedMe.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverpFedMe.cpython-38.pyc | U
”jfcE ã @ sP d dl Z d dlZd dlZd dlmZ d dlmZ d dlmZ G dd„ deƒZ dS )é N)Ú clientpFedMe)ÚServer)ÚThreadc sL e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Zd d „ Zd
d„ Z ‡ Z
S )ÚpFedMec s` t ƒ ||¡ | ¡ | |t¡ |j| _g | _g | _g | _t d| j
› d| j › �ƒ t dƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.) ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚbetaÚrs_train_acc_perÚrs_train_loss_perÚrs_test_acc_perÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© õN D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\servers\serverpFedMe.pyr
s zpFedMe.__init__c C sÀ t | jd ƒD ]†}| ¡ | _| ¡ | jD ] }| ¡ q*|| j dkrftd|› d�ƒ tdƒ | ¡ t
t | j
¡ ƒ¡| _| ¡ | ¡ | ¡ qtdƒ tt| jƒƒ | ¡ | ¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate personalized modelz
Best personalized results.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚtrainÚeval_gapr Úevaluate_personalized_modelÚcopyÚdeepcopyÚlistÚ global_modelÚ
parametersÚprevious_global_modelÚreceive_modelsÚaggregate_parametersÚbeta_aggregate_parametersÚmaxr
Ú save_resultsÚsave_global_model)r ÚiÚclientr r r r s"
z pFedMe.trainc C s> t | j| j ¡ ƒD ]&\}}d| j |j | j|j |_qd S )Nr )Úzipr& r$ r% r
Údata)r Z pre_paramÚparamr r r r) D s z pFedMe.beta_aggregate_parametersc C sR g }g }| j D ](}| ¡ \}}| |d ¡ | |¡ qdd„ | j D ƒ}|||fS )Nç ğ?c S s g | ]
}|j ‘qS r ©Úid©Ú.0Úcr r r Ú
<listcomp>P s z4pFedMe.test_metrics_personalized.<locals>.<listcomp>)ÚclientsÚtest_metrics_personalizedÚappend)r Ú num_samplesÚ tot_correctr7 ÚctÚnsÚidsr r r r: I s
z pFedMe.test_metrics_personalizedc C sh g }g }g }| j D ]8}| ¡ \}}}| |d ¡ | |¡ | |d ¡ qdd„ | j D ƒ}||||fS )Nr2 c S s g | ]
}|j ‘qS r r3 r5 r r r r8 ^ s z5pFedMe.train_metrics_personalized.<locals>.<listcomp>)r9 Útrain_metrics_personalizedr; ) r r< r= Úlossesr7 r> Úclr? r@ r r r rA T s
z!pFedMe.train_metrics_personalizedc C sB | ¡ }t|d ƒd t|d ƒ }| j |¡ td |¡ƒ d S )Né r2 r z+Average Personalized Test Accurancy: {:.4f})r: Úsumr
r; r Úformat)r ÚstatsÚtest_accr r r r b s z"pFedMe.evaluate_personalized_modelc C s¦ | j d | j }d}tj |¡s*t |¡ t| jƒr¢|d | j d t | j
ƒ }t |d
|¡ d¡�6}|jd| jd� |jd| jd� |jd| jd� W 5 Q R X d S ) NÚ_z ../results/z{}.h5ÚwÚ rs_test_acc)r0 Z rs_train_accÚ
rs_train_loss)ÚdatasetÚ algorithmÚosÚpathÚexistsÚmakedirsÚlenr
ÚgoalÚstrr Úh5pyÚFilerF Úcreate_datasetr r )r ÚalgoÚ result_pathZalgo2Úhfr r r r+ q s
zpFedMe.save_results) Ú__name__Ú
__module__Ú __qualname__r r r) r: rA r r+ Ú
__classcell__r r r r r s + r )
rO r! rV Zflcore.clients.clientpFedMer Zflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 3,780 | Python | .pyt | 28 | 133.714286 | 434 | 0.460144 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,981 | serverprox.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverprox.cpython-39.pyc | a
f¾`c² ã @ s8 d dl mZ d dlmZ d dlmZ G dd„ deƒZdS )é )Ú
clientProx)ÚServer)ÚThreadc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚFedProxc sF t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© ús/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/serverprox.pyr s
zFedProx.__init__c C s¢ t | jd ƒD ]h}| ¡ | _| ¡ || j dkrRtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ qX| ¡ |
¡ qtdƒ tt | j ƒƒ |
¡ | ¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r
ÚiÚclientr r r r s
z
FedProx.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s r N)Zflcore.clients.clientproxr Úflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 1,501 | Python | .pyt | 16 | 92.5625 | 225 | 0.504038 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,982 | serverlocalpt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverlocalpt.cpython-38.pyc | U
şc4 ã @ s` d dl mZ d dlmZ d dlmZ d dlZd dlZd dlZd dl Z d dl
Z G dd„ deƒZ dS )é )Ú clientAVGPT)ÚServer)ÚThreadNc sN e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Zdd d
„Zdd„ Z ‡ Z
S )ÚLocalPTc sX t ƒ ||¡ || _| ¡ | |t¡ g | _g | _td| j › d| j
› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.) ÚsuperÚ__init__ÚargsÚset_slow_clientsÚ set_clientsr Údiff_proÚclients_divergeÚprintÚ
join_ratioÚ num_clients)Úselfr Útimes©Ú __class__© õe D:\京东\promot\第二次投稿\å®�验\æœ�务器\native - pro\system\flcore\servers\serverlocalpt.pyr s zLocalPT.__init__c
C sŠ g }t | jd ƒD �].}| ¡ | _|| j dkrPtd|› d�ƒ tdƒ | ¡ | ¡ | _d}| jD ]}| ¡ }|| ¡ }qdtd |¡ƒ | j
|¡ d}t | j
d jj ¡ | j
d jj ¡ ƒD ]:\}}|| } t | dk| t | ¡| ¡} |t | ¡ }qÂtd | ¡ ¡ƒ | j | ¡ ¡ || j dkrtdƒ | j|d � qtd
ƒ tt| jƒƒ td ƒ tt|ƒƒ | ¡ | ¡ | ¡ d S ) Né r z
-------------Round number: z
-------------z
Evaluate global modelz"Averaged prompr difference: {:.4f}z"0 and 1 clients difference: {:.4f}z
Evaluate local model)Úaccz
Best global accuracy.z
Best local accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚeval_gapr
ÚevaluateÚtrainÚitemÚformatr ÚappendÚzipÚclientsÚmodelÚ generatorÚ
parametersÚtorchÚwhereÚ
zeros_likeÚsumr ÚmaxÚ rs_test_accÚ save_resultsÚsave_global_modelÚsave_client_model)
r Ú local_accÚiÚ
temp_diff_proÚclientÚtemp_diff_pro_clientÚdiverge_clentsÚ new_paramÚ old_paramr r r r r sB
ÿ z
LocalPT.trainc C s„ t | jƒdkst‚d}| jD ]}||j7 }q g | _g | _g | _| jD ]:}| j |j| ¡ | j |j¡ | j t
|j j ¡¡ qDd S )Nr )
Úlenr ÚAssertionErrorÚ
train_samplesÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr! ÚidÚcopyÚdeepcopyr$ Úbase)r Úactive_train_samplesr3 r r r Úreceive_modelsD s
zLocalPT.receive_modelsc C s t j d| jd| jjd | jj d | jj d | jj d | jj d | jj
¡}t j |¡sjt |¡ t
| jƒD ]†\}}t j || jd t|ƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d ¡}t |j|¡ qtd S )NÚmodelsr3 Ú*Ú_clientÚ_z.pt)ÚosÚpathÚjoinÚdatasetr Úarv1Úarv2Úarv3Úarv4Úarv5Úarv6ÚexistsÚmakedirsÚ enumerater# Ú algorithmÚstrÚ
num_promptr r Ú plocal_stepsr r' Úsaver$ )r Ú
model_pathÚc_idxÚcÚmodel_path_saver r r r/ R s T
pzLocalPT.save_client_modelc C s€ | j d | j }d| jj d | jj d | jj d | jj d | jj d | jj d }t j
|¡srt |¡ t
| jƒ�r||d | j d t| jƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ }|d |¡ }td| ƒ t |d¡�f}|jd| jd � |jd
| j d � |jd | j d � |jd | j d � |jd
| j d � |jd| j d � W 5 Q R X d S )NrG z ../results/rE ú/z{}.h5z File path: Úwr, )ÚdataÚrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr r )!rK rU r rL rM rN rO rP rQ rH rI rR rS r8 r, ÚgoalrV r rW r r rX r r r
Úh5pyÚFileÚcreate_datasetra rb rc r r )r ÚalgoÚ result_pathÚ file_pathÚhfr r r r- Z s L
l zLocalPT.save_resultsNc C s| | ¡ }| ¡ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }dd„ t|d |d ƒD ƒ} dd„ t|d |d ƒD ƒ}
|d krÎ| j |¡ n
| |¡ | j |¡ | j t | ¡¡ |d k�r| j
|¡ n
| |¡ t d |¡ƒ t d
|¡ƒ t d |¡ƒ t d |¡ƒ t d
t | ¡¡ƒ t d t |
¡¡ƒ d S )Né ç ğ?r é é c S s g | ]\}}|| ‘qS r r ©Ú.0ÚaÚnr r r Ú
<listcomp>v s z$LocalPT.evaluate.<locals>.<listcomp>c S s g | ]\}}|| ‘qS r r rp r r r rt w s zAveraged Train Loss: {:.4f}z Averaged Test Accurancy: {:.4f}z$Averaged Test oral Accurancy: {:.4f}zAveraged Test AUC: {:.4f}zStd Test Accurancy: {:.4f}zStd Test AUC: {:.4f})
Ú test_metricsÚ
train_metricsr* r" r, r! rb ra ÚnpÚstdrc r
r ) r r ÚlossÚstatsÚ stats_trainÚtest_accÚ test_acc2Útest_aucÚ
train_lossÚaccsÚaucsr r r r m s,
zLocalPT.evaluatec C s~ g }g }g }g }| j D ]H}| ¡ \}}}} | |d ¡ | |d ¡ | | | ¡ | |¡ qdd„ | j D ƒ}
|
||||fS )Nrm c S s g | ]
}|j ‘qS r )r> )rq r\ r r r rt ™ s z(LocalPT.test_metrics.<locals>.<listcomp>)r# ru r! ) r Ú num_samplesÚ tot_correctÚ tot_correct2Útot_aucr\ ÚctÚct2ÚnsÚaucÚidsr r r ru Œ s
zLocalPT.test_metrics)NN) Ú__name__Ú
__module__Ú __qualname__r r rC r/ r- r ru Ú
__classcell__r r r r r
s
,
r )
Zflcore.clients.clientavgptr Úflcore.servers.serverbaser Ú threadingr r' rH re r? Únumpyrw r r r r r Ú<module> s | 5,768 | Python | .pyt | 51 | 111.823529 | 495 | 0.428821 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,983 | serverdyn.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverdyn.cpython-37.pyc | B
¿:cc ã @ sP d dl Z d dlZd dlmZ d dlmZ d dlmZ d dlZG dd„ deƒZ dS )é N)Ú clientDyn)ÚServer)ÚThreadc s< e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Z‡ ZS ) ÚFedDync s„ t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _|j | _ t
|j ¡| _
x | j
¡ D ]}t |j¡|_qjW d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudgetÚalphaÚcopyÚdeepcopyÚmodelÚ server_stateÚ
parametersÚtorchÚ
zeros_likeÚdata)ÚselfÚargsÚtimesÚparam)Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/servers/serverdyn.pyr
s zFedDyn.__init__c C sp g }d| _ d}xòt| jd ƒD ]à}t ¡ }| ¡ | _| ¡ || j dkrjtd|› d�ƒ tdƒ | ¡ x| jD ] }|
¡ qrW || j dkr¤tdƒ | j |d� | ¡ | ¡ |
¡ | j t ¡ | ¡ td | jd
ƒ | j| jg| jd �| _ |d7 }q W td ƒ tt| jƒƒ td
ƒ tt|ƒƒ tdƒ tt| jdd … ƒt| jdd … ƒ ƒ | ¡ | ¡ d S )NFr é z
-------------Round number: z
-------------z
Evaluate global modelz
Evaluate local model)Úaccz2--------------------------------------------------éÿÿÿÿ)Úacc_lssÚtop_cntz
Best global accuracy.z
Best local accuracy.z
Averaged time per iteration.)ÚdoneÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚupdate_server_stateÚaggregate_parametersr
ÚappendÚ
check_doneÚ rs_test_accr" ÚmaxÚsumÚlenÚ save_resultsÚsave_global_model)r Z local_accÚiÚs_tÚclientr r r r, s>
(z FedDyn.trainc C s@ x:t | j ¡ | ¡ ƒD ]"\}}| j|j ¡ | j 7 _qW d S )N)ÚzipÚ global_modelr r ÚcloneÚ join_clients)r Ú client_modelÚ server_paramÚ client_paramr r r Úadd_parametersO s zFedDyn.add_parametersc C s t | jƒdkst‚t | jd ¡| _x | j ¡ D ]}t |j ¡|_ q0W x| jD ]}|
|¡ qNW x:t | j ¡ | j ¡ ƒD ] \}}| j d| j
| 8 _ qxW d S )Nr r )r5 Úuploaded_modelsÚAssertionErrorr r r< r r r r rB r; r r )r r r? r@ Ú state_paramr r r r/ S s zFedDyn.aggregate_parametersc C sÎ t | jƒdkst‚t | jd ¡}x | ¡ D ]}t |j¡|_q,W xP| jD ]F}x@t | j
¡ | ¡ | ¡ ƒD ]"\}}}| j|| | j 7 _qjW qJW x4t | j ¡ | ¡ ƒD ] \}}| j| j
| 8 _qªW d S )Nr )r5 rC rD r r r r r r r; r< r r r )r Z model_deltar r? r@ rA Z delta_paramrE r r r r. ` s & zFedDyn.update_server_state) Ú__name__Ú
__module__Ú __qualname__r r, rB r/ r. Ú
__classcell__r r )r r r s
1
r )
r r Z system.flcore.clients.clientdynr Ú system.flcore.servers.serverbaser Ú threadingr r& r r r r r Ú<module> s | 3,307 | Python | .pyt | 25 | 130.92 | 435 | 0.439842 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,984 | serverditto.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverditto.cpython-38.pyc | U
”jfcü ã @ sH d dl Z d dlmZ d dlmZ d dlmZ d dlZG dd„ deƒZdS )é N)Ú clientDitto)ÚServer)ÚThreadc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚDittoc sL t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.) ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudget)ÚselfÚargsÚtimes©Ú __class__© õM D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\servers\serverditto.pyr s zDitto.__init__c C s
t | jd ƒD ] }t ¡ }| ¡ | _| ¡ || j dkrZtd|› d�ƒ tdƒ | ¡ | jD ]}| ¡ |
¡ q`| ¡ | ¡ | j
t ¡ | ¡ tddd| j
d ƒ qtd ƒ tt| jƒƒ td
ƒ tt| j
dd … ƒt| j
dd … ƒ ƒ | ¡ | ¡ d S ) Né r z
-------------Round number: z
-------------z
Evaluate global modelz-------------------------z time costéÿÿÿÿz
Best global accuracy.z
Average time cost per round.)ÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateZptrainÚtrainÚreceive_modelsÚaggregate_parametersr
ÚappendÚmaxÚ rs_test_accÚsumÚlenÚ save_resultsÚsave_global_model)r ÚiÚs_tÚclientr r r r s*
(z Ditto.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s r ) ÚcopyZflcore.clients.clientdittor Úflcore.servers.serverbaser Ú threadingr r r r r r r Ú<module> s
| 1,741 | Python | .pyt | 17 | 101.117647 | 343 | 0.478841 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,985 | serverprox.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverprox.cpython-37.pyc | B
¿:cc² ã @ s8 d dl mZ d dlmZ d dlmZ G dd„ deƒZdS )é )Ú
clientProx)ÚServer)ÚThreadc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚFedProxc sF t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes)Ú __class__© úG/root/autodl-tmp/PFL-Non-IID-master/system/flcore/servers/serverprox.pyr s
zFedProx.__init__c C sª x~t | jd ƒD ]l}| ¡ | _| ¡ || j dkrTtd|› d�ƒ tdƒ | ¡ x| jD ] }| ¡ q\W | ¡ |
¡ qW tdƒ tt | j ƒƒ |
¡ | ¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r
ÚiÚclientr r r r s
z
FedProx.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r )r r r s r N)Zflcore.clients.clientproxr Úflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 1,451 | Python | .pyt | 13 | 110.307692 | 227 | 0.496178 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,986 | serverrep.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverrep.cpython-39.pyc | a
ï`c ã @ sH d dl mZ d dlmZ d dlmZ d dlZd dlZG dd„ deƒZdS )é )Ú clientRep)ÚServer)ÚThreadNc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )ÚFedRepc sL t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.) ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudget)ÚselfÚargsÚtimes©Ú __class__© úr/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/serverrep.pyr s zFedRep.__init__c C s t | jd ƒD ]˜}t ¡ }| ¡ | _| ¡ || j dkrZtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ q`|
¡ | ¡ | j
t ¡ | ¡ tddd| j d ƒ qtd ƒ tt| jƒƒ td
ƒ tt| j dd … ƒt| j dd … ƒ ƒ | ¡ | ¡ d S ) Né r z
-------------Round number: z
-------------z
Evaluate global modelz-------------------------z time costéÿÿÿÿz
Best global accuracy.z
Average time cost per round.)ÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersr
ÚappendÚmaxÚ rs_test_accÚsumÚlenÚ save_resultsÚsave_global_model)r ÚiÚs_tÚclientr r r r s(
(z FedRep.trainc C s„ t | jƒdksJ ‚d}| jD ]}||j7 }q g | _g | _g | _| jD ]:}| j |j| ¡ | j |j¡ | j t |j
j ¡¡ qDd S )Nr ) r& r Ú
train_samplesÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr" ÚidÚcopyÚdeepcopyÚmodelÚbase)r Zactive_train_samplesr+ r r r r : s
zFedRep.receive_models)Ú__name__Ú
__module__Ú __qualname__r r r Ú
__classcell__r r r r r s #r ) Z system.flcore.clients.clientrepr Ú system.flcore.servers.serverbaser Ú threadingr r r1 r r r r r Ú<module> s
| 2,176 | Python | .pyt | 19 | 113.263158 | 369 | 0.477294 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,987 | serverbnpt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverbnpt.cpython-38.pyc | U
€fc"
ã @ sl d dl mZ d dlmZ d dlmZ d dlmZ d dlZd dl Z d dl
Z
d dl Z d dl Z G dd„ deƒZ
dS )é )Ú
clientBNPT)ÚServer)Úread_client_data)ÚThreadNc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )ÚFedBNPTc sR t ƒ ||¡ | ¡ | |t¡ g | _g | _td| j› d| j › �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)
ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr Údiff_proÚclients_divergeÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© õL D:\京东\promot\cifar\cifar\Cifar10_iid\system\flcore\servers\serverbnpt.pyr
s zFedBNPT.__init__c C sV t | jd ƒD �]}| ¡ | _| ¡ || j dkrTtd|› d�ƒ tdƒ | ¡ d}| jD ]}| ¡ }|| ¡ }q^td
|¡ƒ | j |¡ d}t
| jd jj ¡ | jd jj ¡ ƒD ]:\}}|| }t |dk|t |¡| ¡}|t |¡ }q¼td
| ¡ ¡ƒ | j | ¡ ¡ | ¡ | ¡ qtdƒ tt| jƒƒ | ¡ | ¡ d S ) Né r z
-------------Round number: z
-------------z
Evaluate global modelz"Averaged prompr difference: {:.4f}z"0 and 1 clients difference: {:.4f}z
Best global accuracy.) ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚitemÚformatr ÚappendÚzipÚclientsÚmodelÚ generatorÚ
parametersÚtorchÚwhereÚ
zeros_likeÚsumr Úreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model) r ÚiÚ
temp_diff_proÚclientÚtemp_diff_pro_clientÚdiverge_clentsÚ new_paramÚ old_paramr r r r r s8
ÿ
z
FedBNPT.trainc C sÖ | j d | j }d}tj |¡s*t |¡ t| jƒrÒ|d | j d t | j
ƒ }|d |¡ }t d| ƒ t
|d¡�V}|jd| jd� |jd| jd� |jd | jd� |jd
| jd� |jd | jd� W 5 Q R X d S ) NÚ_z ../results/z{}.h5z File path: Úwr/ )ÚdataÚrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr )ÚdatasetÚ algorithmÚosÚpathÚexistsÚmakedirsÚlenr/ ÚgoalÚstrr r! r
Úh5pyÚFileÚcreate_datasetr< r= r> r )r ÚalgoÚ result_pathÚ file_pathÚhfr r r r0 C s
zFedBNPT.save_results)Ú__name__Ú
__module__Ú __qualname__r r r0 Ú
__classcell__r r r r r s (r )Zflcore.clients.clientbnptr Úflcore.servers.serverbaser Úutils.data_utilsr Ú threadingr ÚtimerH ÚcopyrA r( r r r r r Ú<module> s | 2,725 | Python | .pyt | 23 | 117.26087 | 357 | 0.483907 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,988 | serverper.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverper.cpython-38.pyc | U
ºĞıc ã @ s` d dl mZ d dlmZ d dlmZ d dlZd dlZd dlZd dl Z d dl
Z G dd„ deƒZ dS )é )Ú clientPer)ÚServer)ÚThreadNc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )ÚFedPerc sF t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© õW D:\京东\promot\第二次投稿\å®�验\native - pro\system\flcore\servers\serverper.pyr s
zFedPer.__init__c C sÜ g }t | jd ƒD ]Š}| ¡ | _| ¡ || j dkrVtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ q\|| j dkrŒtdƒ | j|d� | ¡ |
¡ qtdƒ tt | j ƒƒ td ƒ tt |ƒƒ |
¡ | ¡ d S )
Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Evaluate local model)Úaccz
Best global accuracy.z
Best local accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r
Ú local_accÚiÚclientr r r r s*
z FedPer.trainc C s� t | jƒdkst‚g | _d}g | _g | _| jD ]:}| j |j¡ ||j7 }| j |j¡ | j |j j
¡ q.t | jƒD ]\}}|| | j|< qtd S )Nr ) Úlenr ÚAssertionErrorÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsÚappendÚ
train_samplesÚidÚmodelÚbaseÚ enumerate)r
Ú tot_samplesr& r% Úwr r r r : s
zFedPer.receive_models)Ú__name__Ú
__module__Ú __qualname__r r r Ú
__classcell__r r r r r
s
"r )
Zflcore.clients.clientperr Úflcore.servers.serverbaser Ú threadingr Úh5pyÚcopyÚosÚtorchÚnumpyÚnpr r r r r Ú<module> s | 2,123 | Python | .pyt | 23 | 91.130435 | 254 | 0.482151 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,989 | serverprox.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverprox.cpython-38.pyc | U
ºĞıc� ã @ s8 d dl mZ d dlmZ d dlmZ G dd„ deƒZdS )é )Ú
clientProx)ÚServer)ÚThreadc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚFedProxc sF t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© õX D:\京东\promot\第二次投稿\å®�验\native - pro\system\flcore\servers\serverprox.pyr s
zFedProx.__init__c C sÜ g }t | jd ƒD ]Š}| ¡ | _| ¡ || j dkrVtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ q\|| j dkrŒtdƒ | j|d� | ¡ |
¡ qtdƒ tt | j ƒƒ td ƒ tt |ƒƒ |
¡ | ¡ d S )
Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Evaluate local model)Úaccz
Best global accuracy.z
Best local accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r
Ú local_accÚiÚclientr r r r s*
z
FedProx.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s r N)Zflcore.clients.clientproxr Úflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 1,611 | Python | .pyt | 19 | 83.578947 | 225 | 0.491525 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,990 | serverlocal.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverlocal.cpython-39.pyc | a
f¾`c… ã @ s8 d dl mZ d dlmZ d dlmZ G dd„ deƒZdS )é )Ú clientAVG)ÚServer)ÚThreadc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚLocalc sF t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© út/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/serverlocal.pyr s
zLocal.__init__c C s” t | jd ƒD ]Z}| ¡ | _|| j dkrJtd|› d�ƒ tdƒ | ¡ | ¡ | _| jD ] }| ¡ qZqtdƒ tt| j ƒƒ |
¡ | ¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.) ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚeval_gapr
ÚevaluateÚtrainÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r
ÚiÚclientr r r r s
z Local.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s
r N)Zflcore.clients.clientavgr Úflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 1,425 | Python | .pyt | 14 | 100.5 | 318 | 0.492918 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,991 | serveramppt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serveramppt.cpython-38.pyc | U
şc£! ã @ sŒ d dl Z d dlZd dlZd dlZd dlZd dlmZmZ d dl m
Z
d dl m Z d dl
Z
d dlZd dlZd dl Z d dlZG dd„ de
ƒZdS )é N)Ú clientAMPPTÚweight_flatten)ÚServer)ÚThreadc s^ e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Zdd d
„Zdd„ Z dd„ Z
dd„ Z ‡ Z S )ÚFedAMPPTc sh t ƒ ||¡ || _| ¡ | |t¡ g | _g | _|j| _|j | _ t
d| j › d| j › �ƒ t
dƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)
ÚsuperÚ__init__ÚargsÚset_slow_clientsÚ set_clientsr Úclients_divergeÚdiff_proÚalphaKÚsigmaÚprintÚ
join_ratioÚ num_clients)Úselfr Útimes©Ú __class__© õc D:\京东\promot\第二次投稿\å®�验\æœ�务器\native - pro\system\flcore\servers\serveramppt.pyr s zFedAMPPT.__init__c
C s’ g }t | jd ƒD �]6}| ¡ | _| ¡ || j dkrXtd|› d�ƒ tdƒ | ¡ d}| jD ]}| ¡ }|| ¡ }qbtd
|¡ƒ | j |¡ d}t
| jd jj ¡ | jd jj ¡ ƒD ]:\}}|| } t | dk| t | ¡| ¡} |t | ¡ }qÀtd
| ¡ ¡ƒ | j | ¡ ¡ || j dk�rBtdƒ | j|d � | ¡ qtd
ƒ tt| jƒƒ td ƒ tt|ƒƒ | ¡ | ¡ | ¡ d S ) Né r z
-------------Round number: z
-------------z
Evaluate global modelz"Averaged prompr difference: {:.4f}z"0 and 1 clients difference: {:.4f}z
Evaluate local model)Úaccz
Best global accuracy.z
Best local accuracy.) ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚitemÚformatr
ÚappendÚzipÚclientsÚmodelÚ generatorÚ
parametersÚtorchÚwhereÚ
zeros_likeÚsumr Úreceive_modelsÚmaxÚ rs_test_accÚ save_resultsÚsave_global_modelÚsave_client_model)
r Ú local_accÚiÚ
temp_diff_proÚclientÚtemp_diff_pro_clientÚdiverge_clentsÚ new_paramÚ old_paramr
r r r r" sD
ÿ
zFedAMPPT.trainc C s‚ t | jƒdkst‚d}| jD ]}||j7 }q g | _g | _g | _| jD ]8}| j |j| ¡ | j |j¡ | j t
|j ¡¡ qDd S )Nr ) Úlenr ÚAssertionErrorÚ
train_samplesÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr% ÚidÚcopyÚdeepcopyr( )r Úactive_train_samplesr8 r r r r/ K s
zFedAMPPT.receive_modelsc C s t j d| jd| jjd | jj d | jj d | jj d | jj d | jj
¡}t j |¡sjt |¡ t
| jƒD ]†\}}t j || jd t|ƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d ¡}t |j|¡ qtd S )NÚmodelsr8 Ú*Ú_clientÚ_z.pt)ÚosÚpathÚjoinÚdatasetr Úarv1Úarv2Úarv3Úarv4Úarv5Úarv6ÚexistsÚmakedirsÚ enumerater' Ú algorithmÚstrÚ
num_promptr r Ú plocal_stepsr r+ Úsaver( )r Ú
model_pathÚc_idxÚcÚmodel_path_saver r r r4 Y s T
pzFedAMPPT.save_client_modelc C s€ | j d | j }d| jj d | jj d | jj d | jj d | jj d | jj d }t j
|¡srt |¡ t
| jƒ�r||d | j d t| jƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ }|d |¡ }td| ƒ t |d¡�f}|jd| jd � |jd
| j d � |jd | j d � |jd | j d � |jd
| j d � |jd| j d � W 5 Q R X d S )NrJ z ../results/rH ú/z{}.h5z File path: Úwr1 )ÚdataÚrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr
r )!rN rX r rO rP rQ rR rS rT rK rL rU rV r= r1 ÚgoalrY r rZ r r r[ r r$ r Úh5pyÚFileÚcreate_datasetrd re rf r
r )r ÚalgoÚ result_pathÚ file_pathÚhfr r r r2 a s L
l zFedAMPPT.save_resultsNc C s| | ¡ }| ¡ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }dd„ t|d |d ƒD ƒ} dd„ t|d |d ƒD ƒ}
|d krÎ| j |¡ n
| |¡ | j |¡ | j t | ¡¡ |d k�r| j
|¡ n
| |¡ t d |¡ƒ t d
|¡ƒ t d |¡ƒ t d |¡ƒ t d
t | ¡¡ƒ t d t |
¡¡ƒ d S )Né ç ğ?r é é c S s g | ]\}}|| ‘qS r r ©Ú.0ÚaÚnr r r Ú
<listcomp>} s z%FedAMPPT.evaluate.<locals>.<listcomp>c S s g | ]\}}|| ‘qS r r rs r r r rw ~ s zAveraged Train Loss: {:.4f}z Averaged Test Accurancy: {:.4f}z$Averaged Test oral Accurancy: {:.4f}zAveraged Test AUC: {:.4f}zStd Test Accurancy: {:.4f}zStd Test AUC: {:.4f})
Ú test_metricsÚ
train_metricsr. r& r1 r% re rd ÚnpÚstdrf r r$ ) r r ÚlossÚstatsÚ stats_trainÚtest_accÚ test_acc2Útest_aucÚ
train_lossÚaccsÚaucsr r r r! t s,
zFedAMPPT.evaluatec C s~ g }g }g }g }| j D ]H}| ¡ \}}}} | |d ¡ | |d ¡ | | | ¡ | |¡ qdd„ | j D ƒ}
|
||||fS )Nrp c S s g | ]
}|j ‘qS r )rC )rt r_ r r r rw s z)FedAMPPT.test_metrics.<locals>.<listcomp>)r' rx r% ) r Ú num_samplesÚ tot_correctÚ tot_correct2Útot_aucr_ ÚctÚct2ÚnsÚaucÚidsr r r rx “ s
zFedAMPPT.test_metricsc
C sŒ t | jƒdkst‚t | jƒdk�rˆ| jD �]\}t | j¡}| ¡ D ]}|j
¡ qBt | j
¡}t| jƒD ]b\}}|j| j| krÂt|jƒ}t|ƒ}|| d¡} t | | ¡} | j| | ¡ ||< qhd||< qhdt |¡ }
t| jƒD ]:\}}t| ¡ | ¡ ƒD ] \}} | j || | 7 _ qşqät ¡ } |j�rJt dt t j ¡ ¡ ¡ | ||
¡ |j!d d7 < |j!d dt ¡ | 7 < q(d S )Nr éÿÿÿÿr gš™™™™™¹?Ú
num_roundsÚ
total_costro )"r= r r> rB r' rD rE Ú global_modelr* rc Úzero_r+ ÚzerosÚ join_clientsrW rC rA r r( ÚviewÚdotr Úer. r& ÚtimeÚ send_slowÚsleeprz ÚabsÚrandomÚrandÚset_parametersÚsend_time_cost)
r r_ ÚmuÚparamÚcoefÚjÚmwÚ weights_iÚ weights_jÚsubÚ coef_selfÚparam_jÚ
start_timer r r r ¥ s2
zFedAMPPT.send_modelsc C s t | | j ¡| j S )N)ÚmathÚexpr )r Úxr r r r— É s z
FedAMPPT.e)NN)
Ú__name__Ú
__module__Ú __qualname__r r" r/ r4 r2 r! rx r r— Ú
__classcell__r r r r r s -
$r )r+ rD r˜ Únumpyrz r« Zflcore.clients.clientampptr r Úflcore.servers.serverbaser Ú threadingr rh rK r r r r r Ú<module> s | 6,980 | Python | .pyt | 62 | 111.33871 | 496 | 0.421882 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,992 | serverpfedpt.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverpfedpt.cpython-37.pyc | B
�ÑecŞ ã @ s` d dl mZ d dlmZ d dlmZ d dlZd dlZd dlZd dl Z d dl
Z
G dd„ deƒZ dS )é )ÚclientPT)ÚServer)ÚThreadNc s< e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
„ Z‡ ZS ) ÚPFedPTc sn t ƒ ||¡ | ¡ || _| |t¡ t |jj ¡| _
g | _ g | _ t
d| j› d| j› �ƒ t
dƒ g | _d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚargsÚ set_clientsr ÚcopyÚdeepcopyÚmodelÚbaseÚ global_modelÚdiff_proÚclients_divergeÚprintÚ
join_ratioÚ num_clientsÚBudget)Úselfr Útimes)Ú __class__© úI/root/autodl-tmp/PFL-Non-IID-master/system/flcore/servers/serverpfedpt.pyr s zPFedPT.__init__c
C sÌ �xft | jd ƒD �]R}t ¡ }| ¡ | _| ¡ || j dkr`td|› d�ƒ tdƒ | ¡ d}x"| jD ]}| ¡ }||
¡ }qlW td |¡ƒ | j
|¡ d}xdt| jd jj ¡ | jd jj ¡ ƒD ]:\}}|| } t | dk| t | ¡| ¡} |t | ¡ }qÎW td |
¡ ¡ƒ | j
|
¡ ¡ | ¡ | ¡ | j
t ¡ | ¡ tdd d| jd
ƒ qW td ƒ tt| j ƒƒ td ƒ tt| jdd … ƒt | jdd … ƒ ƒ | ¡ | ¡ | ¡ d S )
Né r z
-------------Round number: z
-------------z
Evaluate global modelz"Averaged prompr difference: {:.4f}z"0 and 1 clients difference: {:.4f}z-------------------------z time costéÿÿÿÿz
Best global accuracy.z
Average time cost per round.)!ÚrangeÚ
global_roundsÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚitemÚformatr ÚappendÚzipÚclientsr
Ú generatorÚ
parametersÚtorchÚwhereÚ
zeros_likeÚsumr Úreceive_modelsÚaggregate_parametersr ÚmaxÚ rs_test_accÚlenÚ save_resultsÚsave_global_modelÚsave_client_model)
r ÚiÚs_tZ
temp_diff_proÚclientZtemp_diff_pro_clientZdiverge_clentsÚ new_paramÚ old_paramr r r r r% s@
0 (z PFedPT.trainc C sŒ t | jƒdkst‚d}x| jD ]}||j7 }q W g | _g | _g | _xD| jD ]:}| j |j| ¡ | j |j¡ | j t
|j j ¡¡ qJW d S )Nr )
r5 r! ÚAssertionErrorÚ
train_samplesÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr( Úidr r r
r )r Úactive_train_samplesr; r r r r1 O s zPFedPT.receive_modelsc C s t j d| jd¡}t j |¡s(t |¡ x”t| jƒD ]†\}}t j || jd t |ƒ d t | j
j ƒ d t | j
j ƒ d t | j
j
ƒ d t | j
jƒ d t | j
jƒ d ¡}t |j|¡ q4W d S )NÚmodelsr; Z_clientÚ_z.pt)ÚosÚpathÚjoinÚdatasetÚexistsÚmakedirsÚ enumerater* Ú algorithmÚstrr Ú
num_promptr r Ú plocal_stepsr r- Úsaver
)r Ú
model_pathÚc_idxÚcZmodel_path_saver r r r8 ] s
pzPFedPT.save_client_modelc C s8 | j d | j }d}tj |¡s*t |¡ t| jƒ�r4|d | j d t | j
ƒ d t | j j ƒ d t | j j
ƒ d t | j jƒ d t | j jƒ d t | j jƒ }|d |¡ }td| ƒ t |d¡�f}|jd| jd� |jd| jd� |jd | jd� |jd
| jd� |jd | jd� |jd | jd� W d Q R X d S )
NrF z ../results/z{}.h5z File path: Úwr4 )ÚdataÚrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr r )rJ rN rG rH rK rL r5 r4 ÚgoalrO r r rP r r rQ r r' r Úh5pyÚFileÚcreate_datasetrX rY rZ r r )r ÚalgoÚ result_pathÚ file_pathÚhfr r r r6 e s
l zPFedPT.save_results) Ú__name__Ú
__module__Ú __qualname__r r% r1 r8 r6 Ú
__classcell__r r )r r r
s
1r ) Z system.flcore.clients.clientptr Ú system.flcore.servers.serverbaser Ú threadingr r r- rG r\ r r r r r r Ú<module> s | 4,038 | Python | .pyt | 36 | 110.916667 | 397 | 0.459405 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,993 | serverproto.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverproto.cpython-37.pyc | B
¾:ccÜ ã @ sh d dl mZ d dlmZ d dlmZ d dlmZ d dlZd dl Z
d dl m Z G dd„ deƒZ
d d
„ ZdS ) é )Ú clientProto)ÚServer)Úread_client_data)ÚThreadN)Ú defaultdictc s> e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
d „Z‡ ZS )
ÚFedProtoc sj t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _|j | _ dd„ t
|j ƒD ƒ| _ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.c S s g | ]}d ‘qS )N© )Ú.0Ú_r r úH/root/autodl-tmp/PFL-Non-IID-master/system/flcore/servers/serverproto.pyú
<listcomp> s z%FedProto.__init__.<locals>.<listcomp>) ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudgetÚ num_classesÚrangeÚ
global_protos)ÚselfÚargsÚtimes)Ú __class__r r r s zFedProto.__init__c C s& d| _ d}xĞ| j sÚt ¡ }| ¡ | _|| j dkrZ|dkrZtd|› d�ƒ tdƒ | ¡ x| jD ] }| ¡ qbW | ¡ t | j
ƒ| _ | ¡ | j
t ¡ | ¡ td| j
d ƒ |dkrĞ| j| jg| jd�| _ |d 7 }q W td
ƒ tt| jƒƒ tt| j
d d … ƒt| j
d d … ƒ ƒ | ¡ d S ) NFr z
-------------Round number: z
-------------z
Evaluate global modelz2--------------------------------------------------éÿÿÿÿ)Úacc_lssÚtop_cnté z
Best global accuracy.)ÚdoneÚtimeÚselect_clientsÚselected_clientsÚeval_gapr ÚevaluateÚtrainÚreceive_protosÚproto_aggregationÚuploaded_protosr Ú send_protosr ÚappendÚ
check_doneÚ rs_test_accr ÚmaxÚsumÚlenÚ save_results)r ÚiÚs_tÚclientr r r r& s.
(zFedProto.trainc C s2 t | jƒdkst‚x| jD ]}| | j¡ qW d S )Nr )r0 r# ÚAssertionErrorZ
set_protosr )r r4 r r r r* C s zFedProto.send_protosc C sN t | jƒdkst‚g | _g | _x*| jD ] }| j |j¡ | j |j¡ q&W d S )Nr )r0 r# r5 Ú uploaded_idsr) r+ ÚidÚprotos)r r4 r r r r' I s zFedProto.receive_protosNc C sØ | ¡ }| ¡ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }dd„ t|d |d ƒD ƒ}|d krz| j |¡ n
| |¡ |d krš| j |¡ n
| |¡ td |¡ƒ td |¡ƒ td t
|¡¡ƒ d S ) Né g ğ?r c S s g | ]\}}|| ‘qS r r )r ÚaÚnr r r r X s z%FedProto.evaluate.<locals>.<listcomp>zAveraged Train Loss: {:.4f}z Averaged Test Accurancy: {:.4f}zStd Test Accurancy: {:.4f}) Ú test_metricsÚ
train_metricsr/ Úzipr- r+ Ú
rs_train_lossr ÚformatÚnpÚstd)r ÚaccÚlossÚstatsÚ stats_trainÚtest_accÚ
train_lossÚaccsr r r r% R s
zFedProto.evaluate)NN) Ú__name__Ú
__module__Ú __qualname__r r& r* r' r% Ú
__classcell__r r )r r r
s
( r c C s¦ t tƒ}x0| D ](}x"| ¡ D ]}|| || ¡ q W qW xf| ¡ D ]Z\}}t|ƒdkr�d|d j }x|D ]}||j7 }qlW |t|ƒ ||< qD|d j||< qDW |S )Nr r )r ÚlistÚkeysr+ Úitemsr0 Údata)Zlocal_protos_listZagg_protos_labelZ local_protosÚlabelZ
proto_listÚprotor2 r r r r( k s
r( )Zflcore.clients.clientprotor Úflcore.servers.serverbaser Úutils.data_utilsr Ú threadingr r! ÚnumpyrA Ú collectionsr r r( r r r r Ú<module> s a | 3,696 | Python | .pyt | 29 | 126.275862 | 475 | 0.439204 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,994 | serverphp.cpython-37.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverphp.cpython-37.pyc | B
¿:cc” ã @ sH d dl mZ d dlmZ d dlmZ d dlZd dlZG dd„ deƒZdS )é )Ú clientPHP)ÚServer)ÚThreadNc s, e Zd Z‡ fdd„Zdd„ Zdd„ Z‡ ZS )ÚFedPHPc sL t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.) ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudget)ÚselfÚargsÚtimes)Ú __class__© úF/root/autodl-tmp/PFL-Non-IID-master/system/flcore/servers/serverphp.pyr s zFedPHP.__init__c C s¬ x€t | jd ƒD ]n}| ¡ | _| |¡ || j dkrVtd|› d�ƒ tdƒ | ¡ x| jD ] }| ¡ q^W | ¡ |
¡ qW tdƒ tt | j ƒƒ |
¡ | ¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r ÚiÚclientr r r r s
z FedPHP.trainc C s4 t | jƒdkst‚x | jD ]}| | j|¡ qW d S )Nr )Úlenr ÚAssertionErrorÚset_parametersÚ global_model)r ÚRr$ r r r r 5 s zFedPHP.send_models)Ú__name__Ú
__module__Ú __qualname__r r r Ú
__classcell__r r )r r r s r ) Zflcore.clients.clientphpr Úflcore.servers.serverbaser Ú threadingr ÚtimeÚcopyr r r r r Ú<module> s
| 1,724 | Python | .pyt | 13 | 131.307692 | 338 | 0.484813 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,995 | servermoon.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/servermoon.cpython-39.pyc | a
f¾`c{ ã @ sL d dl mZ d dlmZ d dlmZ d dlmZ d dlZG dd„ deƒZ dS )é )Ú
clientMOON)ÚServer)Úread_client_data)ÚThreadNc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚMOONc sL t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.) ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudget)ÚselfÚargsÚtimes©Ú __class__© ús/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/servermoon.pyr s z
MOON.__init__c C sT g }d| _ d}| j sæt ¡ }| ¡ | _| ¡ || j dkr\td|› d�ƒ tdƒ | ¡ | jD ] }| ¡ qb|| j dkr’tdƒ | j|d� | ¡ |
¡ | j t ¡ | ¡ td| j d ƒ | j
| jg| jd
�| _ |d 7 }qtd ƒ tt| jƒƒ td
ƒ tt|ƒƒ tdƒ tt| j d d … ƒt| j d d … ƒ ƒ | ¡ | ¡ d S )NFr z
-------------Round number: z
-------------z
Evaluate global modelz
Evaluate local model)Úaccz2--------------------------------------------------éÿÿÿÿ)Úacc_lssÚtop_cnté z
Best global accuracy.z
Best local accuracy.z
Averaged time per iteration.)ÚdoneÚtimeÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersr ÚappendÚ
check_doneÚ rs_test_accr ÚmaxÚsumÚlenÚ save_resultsÚsave_global_model)r Ú local_accÚiÚs_tÚclientr r r r" s<
(z
MOON.train)Ú__name__Ú
__module__Ú __qualname__r r" Ú
__classcell__r r r r r s r )
Zflcore.clients.clientmoonr Úflcore.servers.serverbaser Úutils.data_utilsr Ú threadingr r r r r r r Ú<module> s
| 1,996 | Python | .pyt | 22 | 89.5 | 412 | 0.482025 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,996 | serverbabupt.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverbabupt.cpython-38.pyc | U
şc ã @ s` d dl mZ d dlmZ d dlmZ d dlZd dlZd dlZd dl Z d dl
Z G dd„ deƒZ dS )é )Ú clientBABUPT)ÚServer)ÚThreadNc sN e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zdd
d „Zd d
„ Zdd„ Z ‡ Z
S )Ú FedBABUPTc sX t ƒ ||¡ || _| ¡ | |t¡ g | _g | _td| j › d| j
› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.) ÚsuperÚ__init__ÚargsÚset_slow_clientsÚ set_clientsr Úclients_divergeÚdiff_proÚprintÚ
join_ratioÚ num_clients)Úselfr Útimes©Ú __class__© õd D:\京东\promot\第二次投稿\å®�验\æœ�务器\native - pro\system\flcore\servers\serverbabupt.pyr s zFedBABUPT.__init__c
C sÀ g }t | jd ƒD �]>}| ¡ | _| ¡ || j dkrXtd|› d�ƒ tdƒ | ¡ d}| jD ]}| ¡ }|| ¡ }qbtd
|¡ƒ | j |¡ d}t
| jd jj ¡ | jd jj ¡ ƒD ]:\}}|| } t | dk| t | ¡| ¡} |t | ¡ }qÀtd
| ¡ ¡ƒ | j | ¡ ¡ || j dk�rBtdƒ | j|d � | ¡ | ¡ qtd
ƒ tt| jƒƒ td ƒ tt|ƒƒ | jD ]}| ¡ �q„td ƒ | ¡ | ¡ | ¡ | ¡ d S )
Né r z
-------------Round number: z
-------------z
Evaluate global modelz"Averaged prompr difference: {:.4f}z"0 and 1 clients difference: {:.4f}z
Evaluate local model)Úaccz
Best global accuracy.z
Best local accuracy.z4
-------------Evaluate fine-tuned model-------------) ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚitemÚformatr ÚappendÚzipÚclientsÚmodelÚ generatorÚ
parametersÚtorchÚwhereÚ
zeros_likeÚsumr Úreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ fine_tuneÚ save_resultsÚsave_global_modelÚsave_client_model)
r Ú local_accÚiÚ
temp_diff_proÚclientÚtemp_diff_pro_clientÚdiverge_clentsÚ new_paramÚ old_paramr r r r r sN
ÿ
zFedBABUPT.trainc C s t j d| jd| jjd | jj d | jj d | jj d | jj d | jj
¡}t j |¡sjt |¡ t
| jƒD ]†\}}t j || jd t|ƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d ¡}t |j|¡ qtd S )NÚmodelsr7 Ú*Ú_clientÚ_z.pt)ÚosÚpathÚjoinÚdatasetr Úarv1Úarv2Úarv3Úarv4Úarv5Úarv6ÚexistsÚmakedirsÚ enumerater$ Ú algorithmÚstrÚ
num_promptr r Ú plocal_stepsr r( Úsaver% )r Ú
model_pathÚc_idxÚcÚmodel_path_saver r r r3 N s T
pzFedBABUPT.save_client_modelc C s€ | j d | j }d| jj d | jj d | jj d | jj d | jj d | jj d }t j
|¡srt |¡ t
| jƒ�r||d | j d t| jƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ d t| jjƒ }|d |¡ }td| ƒ t |d¡�f}|jd| jd � |jd
| j d � |jd | j d � |jd | j d � |jd
| j d � |jd| j d � W 5 Q R X d S )Nr? z ../results/r= ú/z{}.h5z File path: Úwr/ )ÚdataÚrs_test_acc_stdÚ rs_test_aucÚ
rs_train_lossr r )!rC rM r rD rE rF rG rH rI r@ rA rJ rK Úlenr/ ÚgoalrN r rO r r rP r r! r
Úh5pyÚFileÚcreate_datasetrY rZ r[ r r )r ÚalgoÚ result_pathÚ file_pathÚhfr r r r1 V s L
l zFedBABUPT.save_resultsNc C s| | ¡ }| ¡ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }dd„ t|d |d ƒD ƒ} dd„ t|d |d ƒD ƒ}
|d krÎ| j |¡ n
| |¡ | j |¡ | j t | ¡¡ |d k�r| j
|¡ n
| |¡ t d |¡ƒ t d
|¡ƒ t d |¡ƒ t d |¡ƒ t d
t | ¡¡ƒ t d t |
¡¡ƒ d S )Né ç ğ?r é é c S s g | ]\}}|| ‘qS r r ©Ú.0ÚaÚnr r r Ú
<listcomp>r s z&FedBABUPT.evaluate.<locals>.<listcomp>c S s g | ]\}}|| ‘qS r r ri r r r rm s s zAveraged Train Loss: {:.4f}z Averaged Test Accurancy: {:.4f}z$Averaged Test oral Accurancy: {:.4f}zAveraged Test AUC: {:.4f}zStd Test Accurancy: {:.4f}zStd Test AUC: {:.4f})
Ú test_metricsÚ
train_metricsr+ r# r/ r" rZ rY ÚnpÚstdr[ r
r! ) r r ÚlossÚstatsÚ stats_trainÚtest_accÚ test_acc2Útest_aucÚ
train_lossÚaccsÚaucsr r r r i s,
zFedBABUPT.evaluatec C s~ g }g }g }g }| j D ]H}| ¡ \}}}} | |d ¡ | |d ¡ | | | ¡ | |¡ qdd„ | j D ƒ}
|
||||fS )Nrf c S s g | ]
}|j ‘qS r )Úid)rj rT r r r rm • s z*FedBABUPT.test_metrics.<locals>.<listcomp>)r$ rn r" ) r Ú num_samplesÚ tot_correctÚ tot_correct2Útot_aucrT ÚctÚct2ÚnsÚaucÚidsr r r rn ˆ s
zFedBABUPT.test_metricsc C s� t | jƒdkst‚g | _d}g | _g | _| jD ]8}| j |j¡ ||j7 }| j |j¡ | j |j ¡ q.t
| jƒD ]\}}|| | j|< qrd S )Nr ) r\ r ÚAssertionErrorÚuploaded_weightsÚ uploaded_idsÚuploaded_modelsr" Ú
train_samplesr{ r% rL )r Ú tot_samplesr7 r5 rW r r r r, š s
zFedBABUPT.receive_models)NN) Ú__name__Ú
__module__Ú __qualname__r r r3 r1 r rn r, Ú
__classcell__r r r r r
s 4
r )
Zflcore.clients.clientbabuptr Úflcore.servers.serverbaser Ú threadingr r^ Úcopyr@ r( Únumpyrp r r r r r Ú<module> s | 5,957 | Python | .pyt | 53 | 111.188679 | 497 | 0.427942 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,997 | serverproto.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverproto.cpython-38.pyc | U
•icÊ ã @ sh d dl mZ d dlmZ d dlmZ d dlmZ d dlZd dl Z
d dl m Z G dd„ deƒZ
d d
„ ZdS ) é )Ú clientProto)ÚServer)Úread_client_data)ÚThreadN)Ú defaultdictc s> e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Zd d
d „Z‡ ZS )
ÚFedProtoc sj t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ g | _|j | _ dd„ t
|j ƒD ƒ| _ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.c S s g | ]}d ‘qS )N© )Ú.0Ú_r r õF D:\京东\promot\cifar\cifar\tiny\system\flcore\servers\serverproto.pyÚ
<listcomp> s z%FedProto.__init__.<locals>.<listcomp>) ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clientsÚBudgetÚ num_classesÚrangeÚ
global_protos)ÚselfÚargsÚtimes©Ú __class__r r r s zFedProto.__init__c C s d| _ d}| j sÔt ¡ }| ¡ | _|| j dkrX|dkrXtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ q^| ¡ t | j
ƒ| _ | ¡ | j
t ¡ | ¡ td| j
d ƒ |dkrÊ| j| jg| jd�| _ |d 7 }q
td
ƒ tt| jƒƒ tt| j
d d … ƒt| j
d d … ƒ ƒ | ¡ d S ) NFr z
-------------Round number: z
-------------z
Evaluate global modelz2--------------------------------------------------éÿÿÿÿ)Úacc_lssÚtop_cnté z
Best global accuracy.)ÚdoneÚtimeÚselect_clientsÚselected_clientsÚeval_gapr ÚevaluateÚtrainÚreceive_protosÚproto_aggregationÚuploaded_protosr Ú send_protosr ÚappendÚ
check_doneÚ rs_test_accr ÚmaxÚsumÚlenÚ save_results)r ÚiÚs_tÚclientr r r r' s.
(zFedProto.trainc C s. t | jƒdkst‚| jD ]}| | j¡ qd S ©Nr )r1 ÚclientsÚAssertionErrorZ
set_protosr ©r r5 r r r r+ C s
zFedProto.send_protosc C sJ t | jƒdkst‚g | _g | _| jD ] }| j |j¡ | j |j¡ q$d S r6 )r1 r$ r8 Ú uploaded_idsr* r, ÚidÚprotosr9 r r r r( I s
zFedProto.receive_protosNc C sØ | ¡ }| ¡ }t|d ƒd t|d ƒ }t|d ƒd t|d ƒ }dd„ t|d |d ƒD ƒ}|d krz| j |¡ n
| |¡ |d krš| j |¡ n
| |¡ td |¡ƒ td |¡ƒ td t
|¡¡ƒ d S ) Né g ğ?r c S s g | ]\}}|| ‘qS r r )r ÚaÚnr r r r X s z%FedProto.evaluate.<locals>.<listcomp>zAveraged Train Loss: {:.4f}z Averaged Test Accurancy: {:.4f}zStd Test Accurancy: {:.4f}) Ú test_metricsÚ
train_metricsr0 Úzipr. r, Ú
rs_train_lossr ÚformatÚnpÚstd)r ÚaccÚlossÚstatsÚ stats_trainÚtest_accÚ
train_lossÚaccsr r r r& R s
zFedProto.evaluate)NN) Ú__name__Ú
__module__Ú __qualname__r r' r+ r( r& Ú
__classcell__r r r r r
s
( r c C s– t tƒ}| D ]$}| ¡ D ]}|| || ¡ qq | ¡ D ]V\}}t|ƒdkr‚d|d j }|D ]}||j7 }q`|t|ƒ ||< q:|d j||< q:|S )Nr r )r ÚlistÚkeysr, Úitemsr1 Údata)Zlocal_protos_listZagg_protos_labelZ local_protosÚlabelZ
proto_listÚprotor3 r r r r) k s r) )Zflcore.clients.clientprotor Úflcore.servers.serverbaser Úutils.data_utilsr Ú threadingr r" ÚnumpyrE Ú collectionsr r r) r r r r Ú<module> s a | 3,701 | Python | .pyt | 33 | 111 | 412 | 0.433361 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,998 | serverrod.cpython-38.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serverrod.cpython-38.pyc | U
ºĞıcÄ ã @ sL d dl mZ d dlmZ d dlmZ d dlmZ d dlZG dd„ deƒZ dS )é )Ú clientROD)ÚServer)Úread_client_data)ÚThreadNc s$ e Zd Z‡ fdd„Zdd„ Z‡ ZS )ÚFedRODc sF t ƒ ||¡ | ¡ | |t¡ td| j› d| j› �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© õW D:\京东\promot\第二次投稿\å®�验\native - pro\system\flcore\servers\serverrod.pyr s
zFedROD.__init__c C sÜ g }t | jd ƒD ]Š}| ¡ | _| ¡ || j dkrVtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ q\|| j dkrŒtdƒ | j|d� | ¡ |
¡ qtdƒ tt | j ƒƒ td ƒ tt |ƒƒ |
¡ | ¡ d S )
Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Evaluate local model)Úaccz
Best global accuracy.z
Best local accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr ÚevaluateÚtrainÚreceive_modelsÚaggregate_parametersÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r Ú local_accÚiÚclientr r r r s*
z FedROD.train)Ú__name__Ú
__module__Ú __qualname__r r Ú
__classcell__r r r r r s
r )
Zflcore.clients.clientrodr Úflcore.servers.serverbaser Úutils.data_utilsr Ú threadingr Útimer r r r r Ú<module> s
| 1,678 | Python | .pyt | 19 | 87.105263 | 360 | 0.495783 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |
2,286,999 | serveramp.cpython-39.pyc | hkgdifyu_pFedPT/system/flcore/servers/__pycache__/serveramp.cpython-39.pyc | a
f¾`cÍ ã @ sd d dl Z d dlZd dlZd dlZd dlZd dlmZmZ d dl m
Z
d dl m Z G dd„ de
ƒZ
dS )é N)Ú clientAMPÚweight_flatten)ÚServer)ÚThreadc s4 e Zd Z‡ fdd„Zdd„ Zdd„ Zdd„ Z‡ ZS ) ÚFedAMPc sV t ƒ ||¡ | ¡ | |t¡ |j| _|j| _td| j› d| j › �ƒ tdƒ d S )Nz
Join ratio / total clients: z / z%Finished creating server and clients.)
ÚsuperÚ__init__Úset_slow_clientsÚ set_clientsr ÚalphaKÚsigmaÚprintÚ
join_ratioÚ num_clients)ÚselfÚargsÚtimes©Ú __class__© úr/media/sim812/391e55df-b6f2-4fe9-a920-53434a8506fa/lgh/pdept/PFL-Non-IID-master/system/flcore/servers/serveramp.pyr s zFedAMP.__init__c C sš t | jd ƒD ]`}| ¡ | _| ¡ || j dkrRtd|› d�ƒ tdƒ | ¡ | jD ] }| ¡ qX| ¡ qtdƒ tt
| j ƒƒ | ¡ |
¡ d S )Né r z
-------------Round number: z
-------------z
Evaluate global modelz
Best global accuracy.)ÚrangeÚ
global_roundsÚselect_clientsÚselected_clientsÚ send_modelsÚeval_gapr
ÚevaluateÚtrainÚreceive_modelsÚmaxÚ rs_test_accÚ save_resultsÚsave_global_model)r ÚiÚclientr r r r s
z FedAMP.trainc
C sŒ t | jƒdksJ ‚t | jƒdk�rˆ| jD �]\}t | j¡}| ¡ D ]}|j ¡ qBt
| j ¡}t | jƒD ]b\}}|j
| j| krÂt|jƒ}t|ƒ}|| d¡} t | | ¡} | j| | ¡ ||< qhd||< qhdt |¡ }
t | jƒD ]:\}}t| ¡ | ¡ ƒD ] \}} | j|| | 7 _qşqät ¡ } |j�rJt dt tj ¡ ¡ ¡ | ||
¡ |j d d7 < |j d dt ¡ | 7 < q(d S )Nr éÿÿÿÿr gš™™™™™¹?Ú
num_roundsÚ
total_costé ) Úlenr Úuploaded_modelsÚcopyÚdeepcopyÚ global_modelÚ
parametersÚdataÚzero_ÚtorchÚzerosÚ join_clientsÚ enumerateÚidÚ uploaded_idsr ÚmodelÚviewÚdotr ÚeÚsumÚzipÚtimeÚ send_slowÚsleepÚnpÚabsÚrandomÚrandÚset_parametersÚsend_time_cost)
r ÚcÚmuÚparamÚcoefÚjÚmwZ weights_iZ weights_jÚsubZ coef_selfZparam_jÚ
start_timer r r r 6 s2
zFedAMP.send_modelsc C s t | | j ¡| j S )N)ÚmathÚexpr )r Úxr r r r< Z s zFedAMP.e)Ú__name__Ú
__module__Ú __qualname__r r r r< Ú
__classcell__r r r r r s
$r )r3 r- r? ÚnumpyrB rP Zflcore.clients.clientampr r Úflcore.servers.serverbaser Ú threadingr r r r r r Ú<module> s | 2,696 | Python | .pyt | 26 | 102.5 | 373 | 0.469861 | hkgdifyu/pFedPT | 8 | 3 | 0 | GPL-2.0 | 9/5/2024, 10:48:09 PM (Europe/Amsterdam) |