RFT ಗಾಗಿ ಬಿಲ್ಲಿಂಗ್ ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ
ರೀಇನ್ಫೋರ್ಸ್ಮೆಂಟ್ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ (RFT) ರೀಇನ್ಫೋರ್ಸ್ಮೆಂಟ್ ಲರ್ನಿಂಗ್ ಬಳಸಿ OpenAI ಯ ರೀಜನಿಂಗ್ ಮಾಡೆಲ್ಗಳ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಉತ್ತಮಗೊಳಿಸಲು ನಿಮಗೆ ಅವಕಾಶ ನೀಡುತ್ತದೆ. ತರಬೇತಿ ಡೇಟಾಸೆಟ್ನಲ್ಲಿರುವ ಟೋಕನ್ಗಳ ಸಂಖ್ಯೆಯ ಆಧಾರದ ಮೇಲೆ ಬಿಲ್ ಮಾಡಲಾಗುವ ನಮ್ಮ ಮೇಲ್ವಿಚಾರಿತ ಅಥವಾ ಆದ್ಯತಾ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಸೇವೆಗಳಿಗಿಂತ ಭಿನ್ನವಾಗಿ, ನಿಮ್ಮ ತರಬೇತಿ ರನ್ ಮುಖ್ಯ ಮಷಿನ್ ಲರ್ನಿಂಗ್ ಕೆಲಸವನ್ನು ನಿರ್ವಹಿಸಲು ತೆಗೆದುಕೊಳ್ಳುವ ಸಮಯದ ಆಧಾರದ ಮೇಲೆ RFT ಗೆ ಬಿಲ್ ಮಾಡಲಾಗುತ್ತದೆ.
ಈ ಮಾರ್ಗದರ್ಶಿ ಯಾವುದು ಬಿಲ್ ಮಾಡಬಹುದಾದ ತರಬೇತಿ ಸಮಯವಾಗಿ ಗಣನೆಗೆ ಬರುತ್ತದೆ, ನಾವು ವಿರಾಮಗಳು ಮತ್ತು ರದ್ದುಗೊಳಿಸುವಿಕೆಯನ್ನು ಹೇಗೆ ನಿರ್ವಹಿಸುತ್ತೇವೆ, ಮತ್ತು ನಿಮ್ಮ ಸಂರಚನಾ ಆಯ್ಕೆಗಳು ವೆಚ್ಚದ ಮೇಲೆ ಹೇಗೆ ಪರಿಣಾಮ ಬೀರುತ್ತವೆ ಎಂಬುದನ್ನು ವಿವರಿಸುತ್ತದೆ.
ದರ ನಿಗದಿ
ಕಂಪ್ಯೂಟ್:
o4-mini-2025-04-16ಗಾಗಿ ಮೂಲ ತರಬೇತಿ ಲೂಪ್ನಲ್ಲಿ ಕಳೆಯುವ wall-clock ಸಮಯದ ಪ್ರತಿ ಗಂಟೆಗೆ $100. ಶುಲ್ಕಗಳನ್ನು ಸೆಕೆಂಡ್ ಮಟ್ಟಿಗೆ ಅನುಪಾತವಾಗಿ ಲೆಕ್ಕಿಸಿ, ಇನ್ವಾಯ್ಸ್ನಲ್ಲಿ ದಶಮಾಂಶದ ನಂತರ ಎರಡು ಅಂಕೆಗಳವರೆಗೆ round ಮಾಡಲಾಗುತ್ತದೆ (ಉದಾ., 2.55 ಗಂಟೆಗಳು).ಮಾಡೆಲ್ ಗ್ರೇಡರ್ ಬಳಕೆ: ತರಬೇತಿ ವೇಳೆ ಔಟ್ಪುಟ್ಗಳನ್ನು "ಗ್ರೇಡ್" ಮಾಡಲು ನೀವು OpenAI ಮಾಡೆಲ್ ಬಳಸಿದರೆ, ಆ ಗ್ರೇಡಿಂಗ್ ಕಾಲ್ಗಳಲ್ಲಿ ಬಳಕೆಯಾದ ಟೋಕನ್ಗಳಿಗೆ ತರಬೇತಿ ಪೂರ್ಣವಾದ ನಂತರ ನಮ್ಮ ಮಾನಕ API ದರಗಳ ಪ್ರಕಾರ ಪ್ರತ್ಯೇಕವಾಗಿ ಬಿಲ್ ಮಾಡಲಾಗುತ್ತದೆ.
ನಿಮ್ಮ ಮಾಡೆಲ್ ಅನ್ನು ನಿಜವಾಗಿ ನವೀಕರಿಸುವ ತರಬೇತಿ ಕೆಲಸಕ್ಕೆ ಮಾತ್ರ ನಾವು ಶುಲ್ಕ ವಸೂಲು ಮಾಡುತ್ತೇವೆ (ಇದನ್ನೇ ನಾವು "captured forward progress" ಎಂದು ಕರೆಯುತ್ತೇವೆ).
ನಾವು ಯಾವುದಕ್ಕೆ ಬಿಲ್ ಮಾಡುತ್ತೇವೆ
ನಿಮ್ಮ ತರಬೇತಿ ವರ್ಕರ್ ನಿಮ್ಮ ಮಾಡೆಲ್ ಅನ್ನು ಸಕ್ರಿಯವಾಗಿ ತರಬೇತಿಗೊಳಿಸಲು ಕಳೆಯುವ ಸಮಯಕ್ಕೆ ನಾವು ಬಿಲ್ ಮಾಡುತ್ತೇವೆ, ವಿಶೇಷವಾಗಿ:
ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಪ್ರಕ್ರಿಯೆಯ ವೇಳೆ ನಿಮ್ಮ ಮಾಡೆಲ್ನಿಂದ ಮಾದರಿಗಳನ್ನು ರಚಿಸುವುದು (“ರೋಲ್ಔಟ್ಗಳು” ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ)
ಜಾಬ್ನಲ್ಲಿ ನೀವು ವ್ಯಾಖ್ಯಾನಿಸಿರುವ ಒಂದು ಅಥವಾ ಹೆಚ್ಚಿನ ಗ್ರೇಡರ್ಗಳೊಂದಿಗೆ ಆ ಔಟ್ಪುಟ್ಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು (ಗ್ರೇಡರ್ಗಳ ಬಗ್ಗೆ ಇನ್ನಷ್ಟು ತಿಳಿಯಿರಿ)
ಗ್ರೇಡ್ಗಳ ಆಧಾರದ ಮೇಲೆ ವೇಟ್ ಅಪ್ಡೇಟ್ಗಳನ್ನು ಲೆಕ್ಕಿಸಿ ಅನ್ವಯಿಸುವುದು (ಬ್ಯಾಕ್ಪ್ರೊಪಗೇಶನ್).
ನೀವು ಕಾನ್ಫಿಗರ್ ಮಾಡಿದ ಯಾವುದೇ ಮೌಲ್ಯೀಕರಣ (ಮೌಲ್ಯಮಾಪನ) ಹಂತಗಳನ್ನು ನಡೆಸುವುದು.
ಹೆಚ್ಚಿನ ಗ್ರೇಡರ್ಗಳನ್ನು ರನ್ ಮಾಡಲು “ಉಚಿತ” ಆಗಿರುತ್ತದೆ, ಅಂದರೆ ಕೋರ್ ತರಬೇತಿ ಲೂಪ್ಗೆ ಅವು ಕೊಡುಗೆ ನೀಡುವ ಸಮಯದ ಹೊರತಾಗಿ ಅವುಗಳ ಬಳಕೆಗೆ ನಾವು ಹೆಚ್ಚುವರಿ ಶುಲ್ಕ ವಿಧಿಸುವುದಿಲ್ಲ. ಇದಕ್ಕೆ ವಿನಾಯಿತಿ ಮಾಡೆಲ್ ಗ್ರೇಡರ್ಗಳಿಗೆ, ಅಲ್ಲಿ ಮೇಲಿನ ಚಟುವಟಿಕೆಗಳ ವೇಳೆ ಆ ಗ್ರೇಡರ್ಗಳು ಬಳಸುವ ಟೋಕನ್ಗಳನ್ನೂ ನಾವು ಲೆಕ್ಕ ಹಾಕುತ್ತೇವೆ. ಈ ಟೋಕನ್ಗಳು ನಿಮ್ಮ ಇನ್ವಾಯ್ಸ್ನಲ್ಲಿ ಪ್ರತ್ಯೇಕ ಸಾಲು ಐಟಂ ಆಗಿ ಕಾಣಿಸುತ್ತವೆ. ಮಾಡೆಲ್ ಗ್ರೇಡರ್ಗಳು ಬಳಸಿದ ಟೋಕನ್ಗಳಿಗೆ ಸಾಮಾನ್ಯ ಇನ್ಫರೆನ್ಸ್ ದರಗಳಲ್ಲಿ ಬಿಲ್ ಮಾಡಲಾಗುತ್ತದೆ (OpenAI ಬೆಲೆ ನಿಗದಿ).
ನಾವು ಬಿಲ್ ಮಾಡದ ವಿಷಯಗಳು
ಕೆಳಗಿನ ವಿಷಯಗಳಿಗೆ ತೆಗೆದುಕೊಳ್ಳುವ ಸಮಯಕ್ಕೆ ನಾವು ಶುಲ್ಕ ವಸೂಲು ಮಾಡುವುದಿಲ್ಲ:
ತರಬೇತಿ ಪ್ರಾರಂಭವಾಗುವ ಮೊದಲು ನಿಮ್ಮ ಡೇಟಾಸೆಟ್ ಅನ್ನು ವ್ಯಾಲಿಡೇಟ್ ಅಥವಾ ಪರಿಶೀಲಿಸುವುದು.
ನಿಮ್ಮ ಡೇಟಾಸೆಟ್ ಮೇಲಿನ ಸುರಕ್ಷತಾ ಪರಿಶೀಲನೆಗಳು.
ಕಂಪ್ಯೂಟ್ ಸಂಪನ್ಮೂಲಗಳಿಗಾಗಿ ಸರದಿಯಲ್ಲಿ ಕಾಯುವುದು.
ಮಾಡೆಲ್ weights ಅಥವಾ ಡೇಟಾಸೆಟ್ಗಳನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡುವುದು.
ನಿಮ್ಮ ಡೇಟಾಸೆಟ್ ಅನ್ನು ನಮ್ಮ ತರಬೇತಿ ಸ್ವರೂಪಕ್ಕೆ ಸಿದ್ಧಪಡಿಸುವುದು (ರೆಂಡರ್ ಮಾಡುವುದು).
ನಿಮ್ಮ ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಿದ ಮಾಡೆಲ್ನ ತರಬೇತಿ ನಂತರದ ಸುರಕ್ಷತಾ ಮೌಲ್ಯಮಾಪನಗಳು.
ನಮ್ಮ ಕಡೆಗಿನ ದೋಷದಿಂದ ತರಬೇತಿ ಕೆಲಸ ಕಳೆದುಹೋದರೆ (ಉದಾಹರಣೆಗೆ, ವರ್ಕರ್ crash ಆಗಿ ಹಿಂದಿನ checkpoint ಗೆ roll back ಆಗಬೇಕಾದರೆ), ಕಳೆದುಹೋದ ಕಂಪ್ಯೂಟ್ ಸಮಯ ಅಥವಾ ಗ್ರೇಡರ್ ಟೋಕನ್ಗಳಿಗೆ ನಿಮ್ಮಿಂದ ಶುಲ್ಕ ವಸೂಲು ಮಾಡುವುದಿಲ್ಲ. ಇದರ ಬಗ್ಗೆ ಹೆಚ್ಚಿನ ವಿವರಗಳು ಮುಂದಿನ ವಿಭಾಗದಲ್ಲಿ ಇವೆ.
Captured forward progress ಮತ್ತು ಬಿಲ್ಲಿಂಗ್ ಘಟನೆಗಳು
ತರಬೇತಿ ನಿಮ್ಮ ಮಾಡೆಲ್ಗೆ ಅನೇಕ ಸಣ್ಣ ನವೀಕರಣಗಳನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ. ಇವುಗಳಲ್ಲಿ ಎಷ್ಟು ನವೀಕರಣಗಳು ಯಶಸ್ವಿಯಾಗಿ ಪೂರ್ಣಗೊಳ್ಳುತ್ತವೆ ಎಂಬುದನ್ನು ನಾವು ಟ್ರ್ಯಾಕ್ ಮಾಡುತ್ತೇವೆ. ಶುಲ್ಕಗಳು ಈ ಯಶಸ್ವಿ ನವೀಕರಣಗಳಿಗೆ ಸಂಬಂಧಿಸಿದ ಕಂಪ್ಯೂಟ್ ಸಮಯ ಮತ್ತು ಗ್ರೇಡರ್ ಟೋಕನ್ಗಳ ಆಧಾರದ ಮೇಲೆ ಇರುತ್ತವೆ.
ಕೆಳಗಿನ ಯಾವುದಾದರೂ "billing events" ಸಂಭವಿಸಿದಾಗ ನಾವು ಶುಲ್ಕ ವಿಧಿಸುತ್ತೇವೆ:
ತರಬೇತಿ ಯಶಸ್ವಿಯಾಗಿ ಪೂರ್ಣಗೊಳ್ಳುತ್ತದೆ.
ನೀವು ತರಬೇತಿಗೆ ವಿರಾಮ ನೀಡುತ್ತೀರಿ.
ನೀವು ತರಬೇತಿಯನ್ನು ರದ್ದು ಮಾಡುತ್ತೀರಿ.
ತರಬೇತಿ ವಿಫಲವಾಗುತ್ತದೆ.
ಪ್ರತಿ ಶುಲ್ಕವು ಹಿಂದಿನ ಶುಲ್ಕದ ನಂತರ ಮಾಡಿದ ಹೆಚ್ಚುವರಿ ಕೆಲಸವನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ. ಉದಾಹರಣೆಗೆ:
ನೀವು ರನ್ಗೆ ವಿರಾಮ ನೀಡಿದರೆ, ನಾವು checkpoint ಅನ್ನು ಉಳಿಸಿ, ಹಿಂದಿನ ಶುಲ್ಕದ ನಂತರ ಬಳಸಿದ ಕಂಪ್ಯೂಟ್ ಸಮಯ ಮತ್ತು ಗ್ರೇಡರ್ ಟೋಕನ್ಗಳಿಗೆ ಶುಲ್ಕ ವಿಧಿಸುತ್ತೇವೆ.
ನೀವು ಪುನರಾರಂಭಿಸಿದಾಗ, checkpoint ಇಂದ ತರಬೇತಿ ಮುಂದುವರಿಯುತ್ತದೆ. ಮುಂದಿನ ಶುಲ್ಕವು (ಪೂರ್ಣಗೊಂಡಾಗ, ಮತ್ತೊಂದು ವಿರಾಮ, ರದ್ದುಗೊಳಿಸುವಿಕೆ, ಅಥವಾ ವೈಫಲ್ಯ ಸಂದರ್ಭದಲ್ಲಿ) ಪುನರಾರಂಭದ ನಂತರ ಮಾಡಿದ ಹೆಚ್ಚುವರಿ ಕೆಲಸವನ್ನಷ್ಟೇ ಒಳಗೊಂಡಿರುತ್ತದೆ.
ನೀವು ರನ್ ಅನ್ನು ರದ್ದು ಮಾಡಿದರೆ, ರದ್ದುಗೊಳಿಸುವವರೆಗಿನ ಕೆಲಸಕ್ಕೆ ನಾವು ಶುಲ್ಕ ವಿಧಿಸುತ್ತೇವೆ.
ತರಬೇತಿ ವಿಫಲವಾಗಿ ಹಿಂದಿನ ಶುಲ್ಕದ ನಂತರದ ಕೆಲಸ ಕಳೆದುಹೋದರೆ, ಕಳೆದುಹೋದ ಭಾಗಕ್ಕೆ ನಿಮಗೆ ಬಿಲ್ ಮಾಡಲಾಗುವುದಿಲ್ಲ.
ಈ "captured forward progress" ವಿಧಾನವು ನಿಮ್ಮ ಮಾಡೆಲ್ನಲ್ಲಿ ಉಳಿಯುವ ಅಥವಾ ನೀವು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ತ್ಯಜಿಸುವ ಕೆಲಸಕ್ಕೆ ಮಾತ್ರ ನೀವು ಪಾವತಿಸುವಂತೆ ಖಚಿತಪಡಿಸುತ್ತದೆ.
ಜಾಬ್ ಪ್ರಗತಿಯನ್ನು ವೀಕ್ಷಿಸುವುದು
RFT ಜಾಬ್ಗಳಲ್ಲಿ usage_metrics ಎಂಬ ಫೀಲ್ಡ್ ಇರುತ್ತದೆ, ಇದು ಪ್ರಸ್ತುತ ಹಂತದವರೆಗೆ ಜಾಬ್ನ ಒಟ್ಟು ಬಳಕೆಯನ್ನು ದಾಖಲಿಸುತ್ತದೆ. ಇದರಲ್ಲಿ ತರಬೇತಿಗೆ ಖರ್ಚಾದ ಸಮಯ ಮತ್ತು ಜಾಬ್ನಲ್ಲಿರುವ ಎಲ್ಲಾ ಮಾಡೆಲ್ ಗ್ರೇಡರ್ಗಳಲ್ಲಿ ಬಳಸಿದ ಎಲ್ಲಾ ಟೋಕನ್ಗಳು ಸೇರಿವೆ. ಈ ಫೀಲ್ಡ್ ಅನ್ನು API (GET /v1/fine_tuning/jobs/{job_id}) ಮೂಲಕ ಅಥವಾ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಡ್ಯಾಶ್ಬೋರ್ಡ್ ಮೂಲಕ ಪರಿಶೀಲಿಸಬಹುದು.
ತರಬೇತಿ ಸಮಯವನ್ನು ಪ್ರಭಾವಿಸುವ ಅಂಶಗಳು
ಬಿಲ್ಲಿಂಗ್ ಸಮಯ-ಆಧಾರಿತವಾಗಿರುವುದರಿಂದ, ನಿಮ್ಮ ಸಂರಚನಾ ಆಯ್ಕೆಗಳು ನೇರವಾಗಿ ವೆಚ್ಚದ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುತ್ತವೆ. ಮುಖ್ಯ ಅಂಶಗಳು ಇವು:
ಸಮಸ್ಯೆಯ ಕಠಿಣತೆ: ನಿಮ್ಮ ಡೇಟಾಸೆಟ್ ಕಠಿಣ ಸಮಸ್ಯೆಗಳನ್ನು ಒಳಗೊಂಡಿದ್ದರೆ, ಮಾಡೆಲ್ ಪ್ರತಿ ಸಮಸ್ಯೆಯ ಮೇಲೆ ಹೆಚ್ಚು ಸಮಯ ರೀಜನಿಂಗ್ ಮಾಡಲು ಸಾಧ್ಯತೆ ಇದೆ. ಇದರಿಂದ ಪ್ರತಿ ಸ್ಯಾಂಪಲ್ ಉತ್ಪಾದಿಸಲು ಬೇಕಾದ ಸಮಯ ಹೆಚ್ಚುತ್ತದೆ.
ಕಂಪ್ಯೂಟ್ ತೀವ್ರತೆ:
compute_multiplierಹೈಪರ್ಪ್ಯಾರಾಮೀಟರ್ ಪ್ರತಿ ತರಬೇತಿ ಹಂತಕ್ಕೆ ನೀವು ಎಷ್ಟು ಗಣನೆ ಮಾಡುತ್ತೀರಿ ಎಂಬುದನ್ನು ನಿಯಂತ್ರಿಸುತ್ತದೆ. ಹೆಚ್ಚಿನ ಮೌಲ್ಯಗಳು ಪ್ರತಿ ಡೇಟಾಪಾಯಿಂಟ್ ಮೇಲೆ ಮಾಡೆಲ್ ಹೆಚ್ಚು ವಿವರವಾಗಿ ರೀಜನಿಂಗ್ ಮಾಡಲು ಪ್ರೇರೇಪಿಸುತ್ತವೆ, ಇದರಿಂದ ಪ್ರತಿ ಹಂತ ನಿಧಾನವಾಗಿ ನಡೆಯುತ್ತದೆ.ವ್ಯಾಲಿಡೇಶನ್ ಸೆಟ್ಟಿಂಗ್ಗಳು:
ದೊಡ್ಡ ವ್ಯಾಲಿಡೇಶನ್ ಸೆಟ್ ಮೌಲ್ಯಮಾಪನಕ್ಕೆ ತೆಗೆದುಕೊಳ್ಳುವ ಸಮಯವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ.
eval_samplesಹೆಚ್ಚಿಸುವುದು (ಪ್ರತಿ ವ್ಯಾಲಿಡೇಶನ್ ಉದಾಹರಣೆಗೆ ಗ್ರೇಡ್ ಮಾಡುವ ಮಾಡೆಲ್ ಔಟ್ಪುಟ್ಗಳ ಸಂಖ್ಯೆ) ವ್ಯಾಲಿಡೇಶನ್ ಸಮಯವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ.ವ್ಯಾಲಿಡೇಶನ್ ಅನ್ನು ಹೆಚ್ಚು ಬಾರಿ ನಡೆಸುವುದು (ಕಡಿಮೆ
eval_interval) ವ್ಯಾಲಿಡೇಶನ್ನಲ್ಲಿ ಕಳೆಯುವ ಸಮಯದ ಅನುಪಾತವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ.
ಗ್ರೇಡರ್ ಕಾರ್ಯಕ್ಷಮತೆ:
ದೊಡ್ಡ ಅಥವಾ ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯವಿರುವ ಮಾಡೆಲ್ ಗ್ರೇಡರ್ಗಳು ಸಣ್ಣವುಗಳಿಗಿಂತ ಗ್ರೇಡ್ ಹಿಂತಿರುಗಿಸಲು ಹೆಚ್ಚು ಸಮಯ ತೆಗೆದುಕೊಳ್ಳುತ್ತವೆ. ಉದಾಹರಣೆಗೆ, ರೀಜನಿಂಗ್ ಮಾಡೆಲ್ನೊಂದಿಗೆ ಗ್ರೇಡಿಂಗ್ ಮಾಡುವುದು ರೀಜನಿಂಗ್ ಅಲ್ಲದ ಮಾಡೆಲ್ನೊಂದಿಗೆ ಗ್ರೇಡಿಂಗ್ ಮಾಡುವುದಕ್ಕಿಂತ 10 ಪಟ್ಟು ಹೆಚ್ಚು ಸಮಯ ತೆಗೆದುಕೊಳ್ಳಬಹುದು.
ಸಂಕೀರ್ಣ Python ಗ್ರೇಡಿಂಗ್ ಫಂಕ್ಷನ್ಗಳು ಸರಳವಾದವುಗಳಿಗಿಂತ ಹೆಚ್ಚು ಸಮಯ ತೆಗೆದುಕೊಳ್ಳುತ್ತವೆ.
ಈ ಸೆಟ್ಟಿಂಗ್ಗಳು ವೆಚ್ಚ, ವೇಗ ಮತ್ತು ಮಾಡೆಲ್ ಗುಣಮಟ್ಟದ ನಡುವೆ ಸಮತೋಲನ ಸಾಧಿಸಲು ನಿಮಗೆ ಅನುಮತಿಸುತ್ತವೆ. ಉದಾಹರಣೆಗೆ, ಆಗಾಗ್ಗೆ ವ್ಯಾಲಿಡೇಶನ್ ಮಾಡುವುದರಿಂದ ಸಮಸ್ಯೆಗಳನ್ನು ಮೊದಲೇ ಪತ್ತೆಹಚ್ಚಬಹುದು, ಆದರೆ ವೆಚ್ಚ ಹೆಚ್ಚುತ್ತದೆ. ಹೆಚ್ಚು ಮುಂದುವರಿದ ಮಾಡೆಲ್ನೊಂದಿಗೆ ಗ್ರೇಡಿಂಗ್ ಮಾಡುವುದರಿಂದ ಗ್ರೇಡಿಂಗ್ ನಿಖರತೆ ಬಹಳಷ್ಟು ಸುಧಾರಿಸಬಹುದು, ಆದರೆ ಪ್ರತಿ ಗ್ರೇಡಿಂಗ್ ಹಂತ ನಿಧಾನಗೊಳ್ಳುತ್ತದೆ ಮತ್ತು ಜಾಬ್ಗಳು ಹೆಚ್ಚು ದುಬಾರಿಯಾಗುತ್ತವೆ.
ವೆಚ್ಚ ನಿರ್ವಹಣೆ
ನಿಮ್ಮ ಖರ್ಚನ್ನು ನಿಯಂತ್ರಿಸಲು:
ನಿಮ್ಮ ಸಂರಚನೆ ಸಮಯದ ಮೇಲೆ ಹೇಗೆ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಚಿಕ್ಕ ರನ್ಗಳಿಂದ ಪ್ರಾರಂಭಿಸಿ.
ಸಮಂಜಸ ಸಂಖ್ಯೆಯ ವ್ಯಾಲಿಡೇಶನ್ ಉದಾಹರಣೆಗಳು ಮತ್ತು
eval_samplesಬಳಸಿ. ಅಗತ್ಯವಿರುವುದಕ್ಕಿಂತ ಹೆಚ್ಚು ಬಾರಿ ವ್ಯಾಲಿಡೇಟ್ ಮಾಡುವುದನ್ನು ತಪ್ಪಿಸಿ.ನಿಮ್ಮ ಗುಣಮಟ್ಟದ ಅವಶ್ಯಕತೆಗಳನ್ನು ಪೂರೈಸುವ ಅತಿ ಚಿಕ್ಕ ಗ್ರೇಡರ್ ಮಾಡೆಲ್ ಆಯ್ಕೆಮಾಡಿ.
ಕಸ್ಟಮ್ Python ಗ್ರೇಡರ್ಗಳನ್ನು ದಕ್ಷವಾಗಿರಿಸಿ.
convergence ವೇಗ ಮತ್ತು ವೆಚ್ಚದ ನಡುವೆ ಸಮತೋಲನ ಸಾಧಿಸಲು
compute_multiplierಅನ್ನು ಹೊಂದಿಸಿ.ಡ್ಯಾಶ್ಬೋರ್ಡ್ನಲ್ಲಿ ಅಥವಾ API ಮೂಲಕ ನಿಮ್ಮ ರನ್ ಅನ್ನು ಗಮನಿಸಿ. ನೀವು ಯಾವುದೇ ಸಮಯದಲ್ಲಿ ವಿರಾಮಗೊಳಿಸಬಹುದು ಅಥವಾ ರದ್ದು ಮಾಡಬಹುದು.
ಉದಾಹರಣೆಗಳು
ಯಶಸ್ವಿ ತರಬೇತಿ ರನ್
| ತರಬೇತಿ ಸಮಯ | ಬಿಲ್ ಮಾಡಿದ ಸಮಯ | ಸ್ಥಿತಿ | ವಿವರಣೆ |
|---|---|---|---|
| 00:00 | 00:00 | – | ಬಳಕೆದಾರರು API ಮೂಲಕ RFT ಜಾಬ್ ರಚಿಸುತ್ತಾರೆ |
| 00:10 | 00:00 | VALIDATING_FILES | ಡೇಟಾಸೆಟ್ ಮೌಲ್ಯೀಕರಿಸಲು 10 ನಿಮಿಷಗಳು ಕಳೆದವು |
| 00:30 | 00:00 | VALIDATING_FILES | ಡೇಟಾಸೆಟ್ ಸುರಕ್ಷತಾ ಪರಿಶೀಲನೆಗಳನ್ನು ನಡೆಸಲು 20 ನಿಮಿಷಗಳು ಕಳೆದವು |
| 01:00 | 00:00 | QUEUED | ಲಭ್ಯವಿರುವ ವರ್ಕರ್ಗಾಗಿ ಕಾಯಲು 30 ನಿಮಿಷಗಳು ಕಳೆದವು |
| 01:30 | 00:00 | RUNNING | ತರಬೇತಿಯನ್ನು ಸೆಟ್ ಅಪ್ ಮಾಡಲು 30 ನಿಮಿಷಗಳು ಕಳೆದವು (ವೇಟ್ಗಳನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡುವುದು, ಪೂರ್ವಪ್ರಕ್ರಿಯೆ ಇತ್ಯಾದಿ.) |
| 05:30 | 04:00 | RUNNING | ತರಬೇತಿಗೆ 4 ಗಂಟೆಗಳು ಕಳೆದವು |
| 06:00 | 04:00 | RUNNING | ಫಲಿತಾಂಶದ ಮಾಡೆಲ್ನ ಸುರಕ್ಷತಾ ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ನಡೆಸಲು 30 ನಿಮಿಷಗಳು ಕಳೆದವು |
| 06:00 | 04:00 | SUCCEEDED | ತರಬೇತಿ ಮುಗಿಯುತ್ತದೆ |
ಈ ಸಂದರ್ಭದಲ್ಲಿ, ಒಟ್ಟು ಕಳೆದ ಸಮಯ 6 ಗಂಟೆಗಳು, ಆದರೆ ಕೇವಲ 4 ಗಂಟೆಗಳು ಮಾತ್ರ ಬಿಲ್ ಮಾಡಬಹುದಾಗಿದೆ. ವೆಚ್ಚವು 4 ಗಂಟೆಗಳು × $100/ಗಂಟೆ = $400 ಆಗಿರುತ್ತದೆ.
ವಿಫಲವಾದ ಜಾಬ್ ಉದಾಹರಣೆ
ಈ ಉದಾಹರಣೆಯಲ್ಲಿ, ರನ್ 2 ಗಂಟೆಗಳವರೆಗೆ ತರಬೇತಿಗೊಳಿಸುತ್ತದೆ, ಒಂದು ಚೆಕ್ಪಾಯಿಂಟ್ ಬರೆಯುತ್ತದೆ, ಇನ್ನೂ 1 ಗಂಟೆ ತರಬೇತಿಗೊಳಿಸುತ್ತದೆ, ಆದರೆ ನಂತರ ವಿಫಲವಾಗುತ್ತದೆ. ಚೆಕ್ಪಾಯಿಂಟ್ ವರೆಗೆ ನಡೆದ 2 ಗಂಟೆಗಳ ತರಬೇತಿ ಮಾತ್ರ ಬಿಲ್ ಮಾಡಬಹುದಾಗಿದೆ.
| ತರಬೇತಿ ಸಮಯ | ಬಿಲ್ ಮಾಡಿದ ಸಮಯ | ಸ್ಥಿತಿ | ವಿವರಣೆ |
|---|---|---|---|
| 00:00 | 00:00 | – | ಬಳಕೆದಾರರು API ಮೂಲಕ RFT ಜಾಬ್ ರಚಿಸುತ್ತಾರೆ |
| 00:10 | 00:00 | VALIDATING_FILES | ಡೇಟಾಸೆಟ್ ಮೌಲ್ಯೀಕರಿಸಲು 10 ನಿಮಿಷಗಳು ಕಳೆದವು |
| 00:30 | 00:00 | VALIDATING_FILES | ಡೇಟಾಸೆಟ್ ಸುರಕ್ಷತಾ ಪರಿಶೀಲನೆಗಳನ್ನು ನಡೆಸಲು 20 ನಿಮಿಷಗಳು ಕಳೆದವು |
| 01:00 | 00:00 | QUEUED | ಲಭ್ಯವಿರುವ ವರ್ಕರ್ಗಾಗಿ ಕಾಯಲು 30 ನಿಮಿಷಗಳು ಕಳೆದವು |
| 01:30 | 00:00 | RUNNING | ತರಬೇತಿಯನ್ನು ಸೆಟ್ ಅಪ್ ಮಾಡಲು 30 ನಿಮಿಷಗಳು ಕಳೆದವು (ವೇಟ್ಗಳನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡುವುದು, ಪೂರ್ವಪ್ರಕ್ರಿಯೆ ಇತ್ಯಾದಿ.) |
| 03:30 | 02:00 | RUNNING | ತರಬೇತಿಗೆ 2 ಗಂಟೆಗಳು ಕಳೆದವು |
| 03:30 | 02:00 | RUNNING | ಹಂತ 5ರಲ್ಲಿ ಚೆಕ್ಪಾಯಿಂಟ್ ರಚಿಸಲಾಗಿದೆ |
| 04:30 | 02:00 | RUNNING | ಹಂತ 8ರಲ್ಲಿ ಆಂತರಿಕ ದೋಷದ ಕಾರಣ ತರಬೇತಿ ವಿಫಲವಾಗುತ್ತದೆ (ಇನ್ನೂ 1 ಗಂಟೆಯ ನಂತರ) |
| 04:30 | 02:00 | RUNNING | ಚೆಕ್ಪಾಯಿಂಟ್ ಅನ್ನು ಮೌಲ್ಯಮಾಪನ ಮತ್ತು ಮೌಲ್ಯೀಕರಿಸಲು 30 ನಿಮಿಷಗಳು ಕಳೆದವು |
| 04:30 | 02:00 | SUCCEEDED | ಜಾಬ್ ಮುಗಿಯುತ್ತದೆ (ಇತ್ತೀಚಿನ ಚೆಕ್ಪಾಯಿಂಟ್ನೊಂದಿಗೆ) |
ಒಟ್ಟಾರೆ 3 ಗಂಟೆಗಳು ತರಬೇತಿಗೆ ಕಳೆದಿದ್ದರೂ, ಬಳಕೆ ಮಾಡಬಹುದಾದ ಚೆಕ್ಪಾಯಿಂಟ್ನಲ್ಲಿ ಕೇವಲ 2 ಗಂಟೆಗಳು “ಸೆರೆಹಿಡಿಯಲ್ಪಟ್ಟಿವೆ” ಮತ್ತು ಅವುಗಳಿಗೆ ಬಿಲ್ ಮಾಡಲಾಗುತ್ತದೆ. ವಿಫಲತೆಯಿಂದ ಕಳೆದುಹೋದ ಒಂದು ಗಂಟೆಯ ತರಬೇತಿ ಕೆಲಸ ನಿಮ್ಮ ಹೊಣೆ ಅಲ್ಲ. ವೆಚ್ಚವು 2 ಗಂಟೆಗಳು × $100/ಗಂಟೆ = $200 ಆಗಿರುತ್ತದೆ.
ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು
ನನಗೆ ಯಾವಾಗ ಶುಲ್ಕ ವಿಧಿಸಲಾಗುತ್ತದೆ?
ನಿಮ್ಮ ರನ್ ಪೂರ್ಣಗೊಂಡಾಗ, ವಿರಾಮಗೊಳಿಸಿದಾಗ, ರದ್ದುಗೊಳಿಸಿದಾಗ ಅಥವಾ ವಿಫಲವಾದಾಗ ನಾವು ಬಿಲ್ ಮಾಡುತ್ತೇವೆ. ಪ್ರತಿ ಬಿಲ್ ಹಿಂದಿನ ಬಿಲ್ ನಂತರ ಮಾಡಿದ ಕೆಲಸವನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ.
ರನ್ ವಿಫಲವಾದರೆ ನಾನು ಪಾವತಿಸಬೇಕೇ?
ನಮ್ಮ ದೋಷದಿಂದ ರನ್ ವಿಫಲವಾಗಿ ಇತ್ತೀಚಿನ ಯಾವುದೇ ತರಬೇತಿ ಕೆಲಸ ಕಳೆದುಹೋದರೆ, ಕಳೆದುಹೋದ ಭಾಗಕ್ಕೆ ನಿಮಗೆ ಶುಲ್ಕ ವಿಧಿಸಲಾಗುವುದಿಲ್ಲ. ನೀವು ರನ್ ಅನ್ನು ರದ್ದುಗೊಳಿಸಿದರೆ, ರದ್ದುಗೊಳಿಸುವವರೆಗೆ ನಡೆದ ಕೆಲಸಕ್ಕೆ ನಿಮಗೆ ಶುಲ್ಕ ವಿಧಿಸಲಾಗುತ್ತದೆ.
ಗ್ರೇಡರ್ ಮಾಡೆಲ್ ಟೋಕನ್ಗಳಿಗೆ ಹೇಗೆ ಬಿಲ್ ಮಾಡಲಾಗುತ್ತದೆ?
ನೀವು ಕಾನ್ಫಿಗರ್ ಮಾಡುವ ಯಾವುದೇ ಮಾಡೆಲ್ ಗ್ರೇಡರ್ಗಳು ಬಳಸಿದ ಟೋಕನ್ಗಳನ್ನು ನಾವು ಎಣಿಸುತ್ತೇವೆ. ತರಬೇತಿ ಮುಗಿದ ನಂತರ, ಆ ಟೋಕನ್ಗಳಿಗೆ ನಮ್ಮ ಪ್ರಮಾಣಿತ ಪ್ರತಿ-ಟೋಕನ್ ದರಗಳಲ್ಲಿ ನಾವು ಬಿಲ್ ಮಾಡುತ್ತೇವೆ.
ನಾನು ರನ್ ಅನ್ನು ವಿರಾಮಗೊಳಿಸಿ ಪುನರಾರಂಭಿಸಬಹುದೇ?
ಹೌದು. ನೀವು ವಿರಾಮಗೊಳಿಸಿದಾಗ, ನಾವು ಒಂದು ಚೆಕ್ಪಾಯಿಂಟ್ ಉಳಿಸಿ, ಇಲ್ಲಿವರೆಗೆ ಮಾಡಿದ ಕೆಲಸಕ್ಕೆ ಶುಲ್ಕ ವಿಧಿಸುತ್ತೇವೆ. ನೀವು ಪುನರಾರಂಭಿಸಿದಾಗ, ಪುನರಾರಂಭಿಸಿದ ನಂತರ ಮಾಡಿದ ಹೆಚ್ಚುವರಿ ಕೆಲಸಕ್ಕೆ ಮಾತ್ರ ನಿಮಗೆ ಶುಲ್ಕ ವಿಧಿಸಲಾಗುತ್ತದೆ.
Reinforcement Fine‑Tuning ಬಿಲ್ಲಿಂಗ್ ಬಗ್ಗೆ ನಿಮಗೆ ಬೇರೆ ಪ್ರಶ್ನೆಗಳಿದ್ದರೆ, ನಮ್ಮ ಬೆಂಬಲ ತಂಡವನ್ನು ಸಂಪರ್ಕಿಸಿ.